BORRADOR%DE%TRADICCIÓN% Perfil%automatizado:% Racismo ... · NOTADEL%BORRADOR%DE%TRADUCCIÓN/%La%versión%original%de%este%escrito%esen%inglés.%%Esta%traducción%aún%no%ha%sido%revisada%con%

NOTA DEL BORRADOR DE TRADUCCIÓN -‐ La versión original de este escrito es en inglés. Esta traducción aún no ha sido revisada con detenimiento por la autora, por lo cual se recomienda, de ser posible, leer la versión original en inglés.

BORRADOR DE TRADICCIÓN

Perfil automatizado: Racismo preventivo en el desarrollo de tecnologías predictivas

contra “comunidades malas”


Chloé S. Georas

Introducción

Richard Berk, un profesor de la Universidad de Pensilvania, ha desarrollado un software

predictivo pre-‐crimen que sostiene puede atender la preocupación de un oficial de libertad

condicional sobre cómo determinar el “nivel de supervisión […] que se provee” cuando una

persona sale en libertad condicional o libertad provisional.1 El software de Berk presume

eliminar la necesidad de discernimiento humano al “remplazar esos cálculos instintivos.”2

Específicamente,

Los investigadores ensamblaron una base de datos de más de 60,000 crímenes, incluyendo homicidios. Usando un algoritmo que desarrollaron, encontraron un subgrupo de personas con más probabilidades de cometer homicidios durante libertad condicional. En lugar de encontrar un asesino en 100, los investigadores de la Universidad de Pensilvania pudieron identificar ocho de cien futuros asesinos.3

Mientras que las versiones previas del programa de computación, usadas en Baltimore y

Filadelfia, se enfocaron en dichas “predicciones de asesinatos cometidos por y entre reos en

libertad provisional e infractores en libertad condicional,” la nueva encarnación de la

tecnología, desplegada en Washington D.C., también asegura ampliar el alcance predictivo a

1 Steve Watson, Tecnologia Pre-‐-‐-‐Crimen a Ser Usada en Washington D.C, PRISON PLANET (Agosto 24, 2010), http://www.prisonplanet.com/pre-‐crime-‐technology-‐to-‐be-‐used-‐in-‐washington-‐d-‐c.html. Ver también, Eric Bland, Software Predice Comportamiento Criminal: El Programa Ayuda a la Aplicación de ley a Determinar Quién es más Probable que cometa Crimen, ABC NEWS (Agosto 22, 2010), http://abcnews.go.com/Technology/software-‐predicts-‐criminal-‐behavior/story?id=11448231#.UA6lMY5MYWo. 2 Bland, supra nota 1. 3 Bland, supra nota 1.


otros crímenes de menor intensidad.4 Mediante el uso de algoritmos anticipativos que

incluyen “una base de datos con miles de crímenes […] y diferentes variables como: ubicación

geográfica, archivos criminales y edad de los delincuentes,” La tecnología de Berk puede

supuestamente predecir “dónde, cuándo, y cómo un crimen podría posiblemente ser cometido

y por quién” antes de que sea cometido.5 Además, Berk sugiere que el uso del programa de

computación podría afectar la duración de las penas y el monto de las fianzas.6

Las tecnologías predictivas, como el software de Berk, recuerdan claramente la clásica

historia corta de ciencia ficción de Philip Dick, convertida en película de Hollywood, El

informe de la minoría7. La historia presenta un sistema de justicia penal basado en el castigo

prematuro de actos que no han aún ocurrido.

Aunque las premisas del sistema de justicia Anglo-‐americano continúan aun sobre la

criminalización de actos cometidos en el pasado, nuevas tecnologías predictivas presentan

crecientes desafíos a la “santidad” de esos principios, así como también otros principios

fundamentales como la presunción de inocencia y el debido proceso. Para empeorar las cosas,

el incremento espectacular en las décadas pasadas de las tasas de encarcelación, y las

4 Watson, supra nota 1. 5 Watson, supra nota 1. 6 Otras tecnologías predictivas usadas por agencias de aplicación de ley incluyen, por ejemplo: 1-‐Operation Blue CRUSH, desarrollada por IBM, la cual despliega una tecnología que crea un análisis multi-‐capas de crímenes en “puntos calientes” basados en información de crimen; 2-‐ PredPol, usado en Santa Cruz, California, el cual predice donde los crímenes tiene más posibilidades de ocurrir basados en patrones de crímenes previos y suposiciones sociológicas sobre comportamiento criminal; y, 3-‐ El programa de tecnología futura de filtrado de atributos (FAST), examinado por el departamento Homeland Security de los Estados Unidos, evalúa la probabilidad de un individuo a cometer un crimen por medio del uso de cámaras y sensores el sistema “pre-‐crimen” mide y sigue cambios en los movimientos de una persona, el tono de su voz, el ritmo del discurso, los patrones al respirar, movimientos de los ojos, tasa de parpadeo y alteraciones en el calor corporal. Watson, supra nota 1; Heather Kelly, La Policía Adopta Tecnología que Predice Crímenes, CNN (julio 19, 2012), http://edition.cnn.com/2012/07/09/tech/innovation/police-‐tech/index.html; Nick Allen, Pruebas de Tecnología Predictiva de Crimen en los Estados Unidos atraen reporte de comparación entre minorías, El Telégrafo (octubre 10, 2011), http://www.telegraph.co.uk/news/worldnews/northamerica/usa/8818716/US-‐crime-‐predicting-‐technology-‐tests-‐draw-‐Minority-‐Report-‐comparisons.html 7 Philip Dick, El informe de las minorías, LA COLECCION DE HISTORIAS DE PHILIP K. DICK (Citadel 2002).


presiones sobre el control de presos en la libertad condicional8, agravan los problemas

planteados por el uso de las tecnologías preventivas predictivas.

Las personas en libertad condicional y libertad provisional representan un interesante

caso de prueba en la encrucijada entre las doctrinas establecidas, los discursos emergentes y

las practicas permitidas por la tecno-‐axiología de las tecnologías predictivas emergentes,

centradas en anticipar riesgos futuros. Mi artículo se dirige hacia el uso, por parte del sector

público, de predicciones preventivas “para evaluar las posibles consecuencias de permitir (o

no) a una persona comportarse de cierta manera”9 en el contexto de individuos sujetos al

sistema de libertad condicional o provisional en el sistema de justicia penal de los Estados

Unidos. En consecuencia, el trabajo se divide de la siguiente manera: en primer lugar, se

provee un marco general de las disposiciones legales de los Estados Unidos, los precedentes

jurisprudenciales y los principios constitucionales estadounidenses, particularmente el

debido proceso, que regula las formas de libertad supervisada y los cambios importantes que

han conducido a un mayor poder de discreción por parte de los jueces en la determinación de

las penas. En segundo lugar, se destaca el potencial de una doble delegación del poder judicial

al examinar la creciente transmisión de dicho poder a oficiales de libertad condicional, que

pueden tomar decisiones que afecten negativamente la vida de personas en libertad

condicional/provisional y su relación analógica a la potencial delegación de poder basada en

software preventivo predictivo. En tercer lugar, se revisa la literatura principal y los debates

relacionados a los desafíos legales, sociales y éticos que plantean las tecnologías preventivas y

8 En los 90s Feeley y Simon ya notaban que “[n]o hay otro hecho que parezca tan definitiva actualmente como el masivo incremento en el nivel de encarcelación dado en la última década y media, durante la cual las tasas de crimen reportados ha subido solo modestamente y las tasas de victimización han declinado.” Malcolm Feeley y Jonathan Simon, La Nueva Penología: Notas sobre la Estrategia Emergente Correccional y sus Implicaciones, 30 CRIMINOLOGIA 449, 450 (1992). Más estadísticas están disponibles en la Sección VI de este documento. 9 Ian Kerr, Predicción, Prevención, Presunción: El camino de ley después de la Vuelta Computacional 98, en MIREILLE HILDEBRANDT & KATJA DE VRIES, PRIVACIAD, DEBIDO PROCESO Y LA VULETA COMPUTACIONAL: LA FILOSOFIA DE LA LEY SE ENCUENTRA CON LA FILOSOFIA DE LA TECNOLOGIA (2013).


la necesidad de hacer que los valores que ahí se codifiquen sean visibles y que haya rendición

de cuentas. En cuarto lugar, se examina cómo el modelo de justicia actuarial se ha vuelto

predominante en el sistema de justicia penal y cómo esto ha marcado un cambio de la

preocupación por la rehabilitación individual hacia la gestión de grupos de alto riesgo. En

quinto lugar, a través de debates postcoloniales y la teoría relacionada a la colonialidad del

poder, se referencia como las continuidades del imaginario colonial sustentan la tecno-‐

axiología-‐social de las tecnologías de predicción preventiva. En sexto lugar, se exponen

algunas reflexiones finales.

I-‐ La libertad supervisada: directrices, discreción y el debido proceso

La ley de Reforma Penal de 1984 en los Estados Unidos fue diseñada “para acabar con las

sentencias indeterminadas, pues creaban disparidades infundadas al momento de

sentenciar.”10 Las sentencias de libertad condicional y los términos de libertad supervisada, o

libertad provisional, fueron regulados por dicha ley, 11 donde el congreso declaró que la

libertad condicional es una sentencia en sí misma.12 Aunque la libertad condicional y la

libertad provisional permanecen como dos formas alternativas de castigo, concretamente,

libertad supervisada o provisional es una sentencia independiente mientras que libertad

condicional es solo impuesta después del encarcelamiento,13 hay términos similares al

establecer las condiciones de ambas.14

10 Jonathan Chiu, Estados Unidos v. Booker: La Desaparición de las Directrices Federales Mandatarias para Condenas, 39 U. Rich. L. Rev. 1311, 1343 (2005). 11 Libertad Condicional, 37 Geo. L.J. Ann. Rev. Crim. Proc. 734, 737 (2008). 12 La Legalidad de Sanciones Innovativas Alternativas para Crímenes no Violentos, 111 Harv. L. Rev. 1944, 1950 (1998). 13 § 547 Libertad Condicional, 3 Fed. Prac. & Proc. Crim. Sección 547 (4ta ed.). 14 Dado su similitudes y debido a consideraciones de espacio, la mayor parte de la discusión en esta sección estará concentrada en las dimensiones legales de libertad condicional.


La Corte Suprema ha caracterizado la libertad supervisada teniendo “dos objetivos

primarios, rehabilitación y protección social de futuras violaciones criminales.”15 De acuerdo a

la ley de reforma penal, cuando se decide o no imponer un periodo de libertad supervisada,

así como también su duración y condiciones, las cortes federales deben considerar los

siguientes factores:

(b) Factores a ser considerados (18 U.S.C.A. § 3562(a)). Cuando se decide imponer un periodo de libertad supervisada, o la duración del periodo de libertad supervisada, 18 U.S.C.A. § 3562(a) se requiere a la corte sentenciadora a considerar todos los factores establecidos en 18 U.S.C.A. §3553(a). Aquellos factores son la naturaleza y circunstancias de la ofensa, la historia y las características del acusado; los propósitos de la sentencia; los tipos de sentencias disponibles; el rango de las directrices y los tipos de sentencias autorizados por las directrices; las declaraciones políticas pertinentes; evitar disparidades injustificadas en el castigo; y proveer restitución a cualquier víctima de la ofensa. 16

Las Directrices Federales de Sentencias del 1 de noviembre, 1987 establecen a la Comisión de

Sentencia de los Estados Unidos como una “comisión independiente perteneciente a la rama

judicial.” 17 Esta comisión promulgó las directrices como instrucciones para establecer un

estándar de sentencia para restringir la discreción judicial de los jueces.18 Las directrices

también establecieron los límites de duración de las sentencias19 y declaró que no se requiere

que la corte imponga libertad supervisada.20

Hasta el caso U.S. v. Booker21, del 2005, la imposición de términos era estrictamente regulada

por los estándares proveídos en las directrices federales de sentencia, dónde las sentencias

15 § 547 Libertad condicional, 3 Fed. Prac. & Proc. Crim. Sección 547 (4th ed.). 16 Fed. Sent. L. & Prac. § 5B1.1 (2012 ed.). 17 Chiu, supra nota 10 at 1315-‐16 18Ver Sharon M. Bunzel, El oficial de libertad condicional y las directrices federales de sentencia: Extraña Compañía Filosófica, 104 Yale L.J. 933, 966 (1995).. 19 Organización de libertad condicional bajo las directrices federales de sentencia, Fed. Libertad Condicional en 25, 26 (1998). 20 Libertad Condicional, 37 Geo. L.J. Ann. Rev. Crim. Proc. 734, 736-‐37 (2008). 21 543 U.S. 220, 125 S.Ct. 738 (2005).


varían de acuerdo al nivel de la ofensa, determinado numéricamente.22 Sin embargo, Booker

representó una modificación trascendental en la aplicación de las directrices sobre sentencias

al declarar la inconstitucionalidad del mandato que obligaba a las jueces a dictar sentencias de

acuerdo a las directrices,23 por lo que las directrices pasaron a tener carácter de

recomendaciones, lo cual transformó sobremanera los estándares bajo los que se sentencia.24

Después de la decisión de Booker, los críticos argumentaron enérgicamente que el nuevo

carácter no-‐vinculante de las directrices podía representar un retroceso a la era de las

disparidades arbitrarias característico de la era pre-‐directrices de determinación de penas.25

En resumen, a los jueces federales se les da discreción sobre el nivel de riesgo que una

persona en libertad supervisada representa para a la sociedad, pero dicha discreción es

limitada por las directrices federales de sentencias, como también por la ley federal penal de

198426 y 18 U.S.C. § 3563,27 las cuales regulan la imposición de condiciones obligatorias y

discrecionales en la libertad supervisada federal. No obstante, al eliminar el carácter

vinculante de las directrices federales de sentencia, Booker aumentó la discreción de los

jueces al imponer sentencias federales.

En términos de las garantías constitucionales, las personas bajo libertad supervisada

se posicionan en una zona gris, entre los ciudadanos respetuosos de la ley y los presos,

quienes reciben la más alta o más baja protección, respectivamente. Sin embargo, la corte

suprema de los estados unidos en Burns v. U.S. indicó que “Mientras la libertad supervisada es

una cuestión de gracia, la persona supervisada tiene derecho a un trato justo y no debe ser

22 Fed. Sent. L. & Prac. § 5B1.2 (2012 ed.). 23 Chiu, supra nota 10 at 1335. 24 Chiu, supra nota 10 at 1312. 25 Chiu, supra nota 10 at 1346. 26 18 U.S.C. § 3651. 27 Fed. Sent. L. & Prac. § 5B1.3 (2012 ed.).


víctima de antojos o caprichos.”28 Las preguntas concernientes al debido proceso en cuanto a

los derechos de la persona en libertad supervisada surgen tanto al momento de otorgamiento

como de revocatoria de la libertad supervisada.

Mientras que ni la negación de libertad supervisada ni la negación de la libertad

condicional son susceptibles a reclamos basados en castigos crueles e inusuales, las

sentencias de libertad supervisada pueden estar sujetas a reclamos referentes a, por ejemplo,

la determinación de su duración y violaciones a la ley.29 Los apelantes pueden plantear

desafíos constitucionales a las directrices o a la falta de seguimiento de la sentencia en

relación a las reglas federales del procedimiento penal.30 No obstante, es importante notar

que Booker también representó un cambio en el área de apelación de sentencias. Antes de la

decisión, las sentencias de libertad supervisadas estaban sujetas a la revisión estándar de

novo, pero dichos estándares fueron substituidos por otros de mera “sensatez”.31

Cuando una persona en libertad supervisada ha incumplido con las condiciones

acordadas durante su periodo de prueba, la reglas federales de procedimiento penal regulan

las audiencias de revocatoria de libertad supervisada y proveen para ambas una audiencia

preliminar y una final.32 Las audiencias de revocatoria de libertad supervisada han sido

también tierras fértiles para demandas procesales.

El debido proceso requiere que las audiencias de revocatoria sean conducidas de acuerdo a la garantía de la décima cuarta enmienda sobre la equidad fundamental. La persona en libertad supervisada debe también tener la oportunidad de aparecer en corte y presentar pruebas. En ciertos casos, tienen también un derecho constitucional a cuestionar testigos adversos. Finalmente, la corte debe proveer una declaración escrita informando al sentenciado las razones por las cuales su libertad supervisada fue revocada.33

28 287 US 216 (1932). 29 Fed. Sent. L. & Prac. § 11.3 (2012 ed.). 30 Fed. Sent. L. & Prac. § 11.3 (2012 ed.) 31 Fed. Sent. L. & Prac. § 11.1 (2012 ed.) 32 Libertad Condicional, supra nota 20 at 784, 798. 33 Libertad Condicional, supra nota 20 at 751-‐52; 16C C.J.S. Ley Constitucional § 1700 (2012).


Aunque en el pasado había preguntas sobre el estatus de las garantías del debido proceso

para personas en libertad supervisada, actualmente ambos los otorgantes y revocantes están

sujetos a principios del debido proceso.

II ¿Delegación judicial doble? oficiales de libertad supervisada y software anticipatorio

La rama judicial depende crecientemente de, y delega poderes a, oficiales de libertad

supervisada para que manejen el creciente número y variedad de sentencias impuestas en

casos penales.¨34 Esta delegación de poder ha sido desafiada por personas en libertad

supervisada como una violación a las cláusulas del artículo III.35 Por otra parte, la tendencia

de las cortes distritales a dar a los oficiales de libertad supervisada amplia discreción en

importantes determinaciones que pueden impactar adversamente las vidas de las personas

supervisadas, tales como “si y dónde permitir a una persona en libertad supervisada viajar, si

requerir notificar a terceras personas de su historial criminal, y si, cuando, y donde

administrar pruebas de drogas aleatorias.¨36 Las raíces de este incremento del poder delegado

a oficiales de libertad supervisada podría ser el resultado de cómo las directrices federales de

sentencias cambiaron el rol de las personas en libertad supervisada al requerirle “a los

oficiales de libertad supervisada a prestar más atención a la aplicación técnica de las

directrices de sentencia y menos en la evaluación de los acusados individuales y el tipo de

sentencia que ellos necesitan para su rehabilitación y la protección del público.¨37 A pesar de

que el caso Booker reintrodujo elementos discrecionales en la determinación de las penas, las

directrices federales de sentencia están siendo todavía utilizadas y la compleja tecnocracia

34 Mark Thomson, ¿Quién son ellos para Juzgar?: La Constitucionalidad de las Delegaciones por Tribunales a los Oficiales de Libertad Condicional, 96 Minn. L. Rev. 306, 307-‐308 (2011). 35 Thomson, supra nota 35 en 307-‐08. 36 Thomson, supra nota 35 en 309. 37 David N. Adair, Jr., Mirando a la Ley, Fed. Libertad Condicional en 51 (Dic. 2004).


dentro de la cual los oficiales de libertad supervisada trabajan se ha crecientemente desviado

de un enfoque dirigido a la rehabilitación individual.

Aunque no está claro si el gobierno federal está haciendo uso del software

desarrollado por Berk o de tecnologías similares, el escenario anterior es terreno fértil para la

demanda y la aplicación de tecnologías preventivas predictivas para optimizar e intensificar la

línea de producción tecnocrática que maneja las preocupaciones relacionadas a los riesgos

concernientes a la maquinaria gubernamental que controla a “grupos rebeldes”, en vez de

estar enfocada en la primacía de la rehabilitación y la integración axiológica a las

comunidades.38 Por un lado, si las cortes usan tecnologías preventivas para ayudar a la

determinación de las penas en contradicción con las directrices federales de sentencias, el

precedente establecido por Booker las respalda, dado que éste da a los jueces un mayor

margen discrecional para imponer penas.39 Por otro lado, el software predictivo se dirige

hacia las demandas sistémicas y reduce la carga de trabajo de los oficiales de libertad

supervisada. De esta manera, hay potencial para una delegación judicial doble hacia los

oficiales de libertad supervisada y las tecnologías anticipatorias.

III Sujetos de vigilancia tecno-‐híbridos: desafíos para hacer que los valores codificados

sean visibles y responsables en las tecnologías preventivas predictivas

De acuerdo a Lessig, las arquitecturas tecnológicas son fuerzas regulatorias, similares a

normas sociales, mercados y derechos, en el sentido de que ellas limitan y habilitan patrones

particulares de comportamiento mientras imposibilitan otros.40 Como tales, el código o diseño

de las tecnologías subyacentes a la sociedad son formas de poder y deberían estar sujetas a

38 Esto será discutido en mayor detalle en la sección IV 39 543 U.S. 220, 125 S.Ct. 738 (2005). 40 LAWRENCE LESSIG, CODIGO: VERSION 2.0 78 (Libros Basicos 2006).


interrogación crítica y no darse por sentado. 41 Al cuestionar el poder estamos en condiciones

de examinar las limitaciones sobre las que podemos hacer algo al respecto. La política se

vuelve “como decidimos, como se ejercita el poder, y por quien.”42 Citron, Kerr y HIlderbrandt

son algunos pensadores que cuestionan las formas de poder problemáticamente inherentes a

las tecnologías predictivas. 43

El surgimiento de lo que ha sido llamando la “sociedad del riesgo” explica la creciente

importancia de las tecnologías predictivas. La “industria de la predicción [puede florecer] en

una sociedad que está organizada en respuesta al riesgo […] porque la predicción a menudo

precipita los intentos a adelantarse al riesgo”.44 Específicamente, las tecnologías predictivas

abarcan nuevas técnicas de minado de datos tales como agregación y vínculos contextuales

cruzados que hacen posible “un tipo de construcción de conocimiento abductivo, basado en un

tipo de computación que no está al alcance de la mente humana.”45 Estas técnicas de minado

de datos son la base de “nuevas formas de predicciones idiopáticas. Los opacos algoritmos

anticipatorios y las gráficas sociales que permiten hacer inferencias sobre personas y sus

preferencias.”46 En relación a la elaboración de perfiles penales, el uso de estas técnicas

predictivas de minado de datos habilitan la detección inadvertida de correlaciones “invisibles

al ojo humano […], presentando perspectivas novedosas que pueden ser altamente relevantes

41 LESSIG, supra nota 41 at 78. 42 LESSIG, supra nota 41 at 78. 43 Danielle Keats Citron, El Debido Proceso Tecnológico, 85 Wash. U. L. Rev. 1249 (2008); Kerr, supra nota 9; Mirielle Hildebrandt, Perfilado Proactivo Forense: ¿Criminalización Proactiva?, Los límites de la Ley Criminal (R.A. Duff et al. eds, 2010). 44 Ver Kerr para una discusión sobre la noción de “riesgo social.” Kerr, supra nota 9 en 98-‐100. 45 HILDEBRANDT, supra nota 9 (Prefacio). 46 Kerr, supra nota 9 en 88.


para organizaciones (como el sistema de justicia penal) que tiene que sobrevivir en un

ambiente rápidamente cambiante.”47

En el análisis del incremento de la dependencia institucional sobre tecnologías

predictivas de la sociedad, Kerr perspicazmente contrasta las implicaciones legales, sociales y

éticas de las emergentes tecnologías predictivas con aquellos modelos basados en los

paradigmas legales fundacionales de Holmes sobre el “Hombre Malo.” Las predicciones

Holmesianas, las cuales Kerr llama “predicciones consecuentes,” están dirigidas a prever los

resultados legales de una acción dada desde la perspectiva del Hombre Malo, y su propósito

primario es “proteger a los ciudadanos de la amenaza de la sanción estatal.”48 En contraste,

“las predicciones preventivas”:

Son usadas para reducir las opciones futuras de una persona. La predicción preventiva evalúa las posibles consecuencias de (no) permitir a una persona actuar de cierta manera. Inmediatamente, uno debería reconocer que estas predicciones no solo adoptan la perspectiva del actor. Las predicciones preventivas son mayormente hechas desde el punto de vista del estado, una corporación o cualquiera que desee prevenir o evitar ciertos tipos de acción. Las predicciones predictivas no evalúan una acción del individuo sino si al individuo debería permitírsele actuar de cierta manera.49

A diferencia del compromiso Holmesiano con la perspectiva y ubicación de los clientes diarios

de la ley, los sistemas computacionales predictivos, a pesar de su obsesión con la exactitud,

confiabilidad y eficiencia, “no generan relaciones de confianza y por lo tanto no atraen

deberes especiales de confianza en cualquier sentido tradicional.”50 Esto es cierto en el

contexto del sector privado, dónde las tecnologías diseñadas para ofrecer predicciones a

sujetos de data, pero aún más dramáticamente cierto en el caso de las tecnologías diseñadas 47 Hildebrandt, supra nota 44. La paginación publicación de este artículo no está disponible en el formato Word. 48 Kerr también discute “predicciones preferenciales” dirigido a vender productos basados en las preferencias de las personas, lo cual no está dirigido en este documento. Kerr, supra nota 9 en 97. 49 Kerr, supra nota 9 en 98. 50 Kerr, supra nota 9 en 96.


para ofrecer predicciones sobre los sujetos de data.51 Contrario a las predicciones

consecuentes, las predicciones preventivas por definición van en detrimento, o en contra del

interés, del ámbito de libertad del sujeto de data,” especialmente cuando se presume que es el

“hombre malo” y éstas son usadas para prohibir acciones de cierta naturaleza.52 Por otra

parte, y como es discutido en la siguiente sección, las ramificaciones de estas tecnologías

predictivas originales en el contexto penal son profundas, de amplio rango y han sido

centrales en el desarrollo de un modelo de justicia actuarial enfocado sobre el manejo de

grupos de alto riesgo en vez de la rehabilitación de individuos.

Uno de los aspectos altamente problemáticos sobre el implemento computacional es

cómo los programadores desapercibidamente se convierten en legisladores, dado que ellos

están imbuyendo ciertos valores sociales a expensas de otros.53 De acuerdo con Lessig, “los

programadores determinan las condiciones preestablecidas en internet.”54 Como el “ambiente

construido” de la vida social en el ciberespacio,”55 el código puede ser una gran amenaza a las

libertades establecidas en maneras que nosotros todavía no podríamos ni siquiera entender.

Para Kerr el poder desenfrenado de los programadores en el contexto de las tecnologías

preventivas predictivas puede “proveer un tremendo poder a los programadores y aquellos

que utilicen sus tecnologías” para “regular el comportamiento humano y tomar decisiones

claves sobre personas sin los chequeos ni los balances legales usuales materializados en el

espacio real.”56 Por lo tanto, software como el desarrollado por Berk, “el cual simplemente

computa probabilidades estadísticas, está ya anticipándose y dando preferencia a las

51 Kerr, supra nota 9 en 96. 52 Kerr, supra nota 9 en 97. 53 LESSIG, supra nota 41 en 6. 54 LESSIG, supra nota 41 en 79. 55 LESSIG, supra nota 41 en 121. 56 Kerr, supra nota 9 en 103.


posibilidades sociales y oportunidades de miles de sujetos en varias jurisdicciones de una

manera muy real.”57

Además, delegar a los programadores la posibilidad de transmutar leyes, reglas y

políticas en código está en camino a una colisión frontal con los problemas de interpretación

entre el lenguaje humano y el artificial. Como Citron muestra, las reglas y políticas públicas

son muy vulnerables a distorsión cuando los programadores las trasladan a código. El

“vocabulario limitado” de las predicciones computacionales por lo tanto puede debilitar la

complejidad de sus análisis predictivos y además agravarlas por la falta de experiencia

especializada de los programadores en procesos de toma de decisiones del sector público.

Todo esto a costa de los sujetos concernidos.58

Desafortunadamente, el problema de autoría de las tecnologías predictivas y sus

predicciones en el sector público no es tan directo como uno quisiera. Primero, mientras en el

sector privado los algoritmos predictivos y programas pueden ser sujetos al secreto industrial

y a las leyes de derecho de autor, en el sector público se puede bloquear la revisión bajo las

justificaciones de seguridad nacional y la seguridad pública.59 Segundo, el autor de un

algoritmo predictivo o software “podría en cualquier sentido ser o no autor de cualquier

predicción particular generada por el sistema,” lo cual podría últimamente implicar que “no

hay un autor humano; algunas veces no hay nadie quien sea directamente responsable de

cualquier predicción generada”60 Esta opacidad de la autoría atenta contra la transparencia y

la responsabilidad en relación al diseño subyacente de las tecnologías preventivas y sus

predicciones.

57 Kerr, supra nota 9 en 102. 58 Citron, supra nota 44 en 1261. 59 Kerr, supra nota 9 en 95. 60 Kerr, supra nota 9 en 96.


Lessig está particularmente preocupado por la cuestión de la transparencia y

responsabilidad en relación a la arquitectura técnica o codificada que regula nuestras vidas.

En su crítica sobre la presunción inherente de la irresponsabilidad tecnológica discute cómo

“la falta de dirección desorienta la responsabilidad,” a saber,

Cuando un gobierno usa otras estructuras de restricción para afectar una restricción que podría imponer directamente, enturbia la responsabilidad de esa restricción y también debilita la responsabilidad política. Si la transparencia es un valor en el gobierno constitucional, la mala dirección es el enemigo. Confunde la responsabilidad y por tanto confunde a la política.61

Aunque Lessig en principio no está en contra de la regulación indirecta, sí está, sin

embargo, preocupado por cómo el gobierno alcanza sus objetivos de forma indirecta sin tener

que confrontar el costo de alcanzarlos directamente. El mayor costo es la transparencia

política en una democracia donde las regulaciones deberían ser públicas.

El secretismo de los factores considerados por, y el funcionamiento de, los algoritmos

y el software de tecnologías predictivas opera contra los principios de la transparencia y la

responsabilidad pública. Además del llamado de los gobiernos a la seguridad nacional y la

seguridad pública para justificar las premisas y los métodos de las tecnologías predictivas sin

respaldo, la naturaleza escondida de los valores en el código puede severamente reducir los

principios del debido proceso que deberían guiar la relación entre los individuos sometidos a

las tecnologías predictivas para resguardarse contra acciones del gobierno no revisadas y sin

respaldo.62 Esta falta de transparencia se exacerba más en el sector público porque, a

diferencia del privado, “los algoritmos en sistemas públicos automatizados no están

necesariamente sujetos a revisión con base en su desempeño en la práctica.”63 A lo sumo,

61 LESSIG, supra nota 41 en 133, 136. 62 Citron, supra nota 44 en 12911 63 Citron, supra nota 44 en 1287.


podrían estar corregidos contra “falsos negativos […, pero] corregir solo un tipo de error en

un algoritmo o regla codificada tiende a sistematizar un sesgo.”64

Si el código del software predictivo preventivo permanece opaco, no hay manera de

determinar si la política pública de una institución política está codificada con precisión en

programas que impactan las vidas de muchas personas. Esto deja a los sujetos de data

afectados por esta tecnología anticipatoria afectados en una desventaja particular a la hora de

cuestionar las premisas o métodos usados para calcular el riesgo de daños futuros sobre los

cuales se realizan determinaciones relevantes para calcular la duración y las condiciones de

libertad supervisada. Por esto, Citron propone que el acceso al código fuente de programas

automatizados, o en otras palabras las instrucciones codificadas en la computadora por el

programador, podría ser una “manera significativa de desafiar los reclamos de la agencia y

disipar la influencia del sesgo automático.”65 En una línea similar, Hildenbrandt pide que las

personas que fueron sujetadas a la elaboración de perfiles penales tengan acceso a los perfiles

en los que encuadran, con la intención de “ampliar su libertad” al “permitirnos enmendar

nuestros caminos o rebatir la aplicación de tales perfiles en un tribunal de justicia.”66

El discurso de Berk de sustituir “los cálculos al sentimiento”67 con la precisión de las

predicciones de su software, subraya un desdén por el matiz del proceso discrecional de toma

de decisiones al examinar un caso individual para hacer una determinación en favor de un

proceso homogenizado y consistente para el cual los sistemas automatizados “se vuelven los

principales tomadores de decisiones.”68 Esta posición es característica de los partidarios de la

automatización quienes proclaman a favor de la consistencia, la precisión y el costo

64 Citron, supra nota 44 en 1287. 65 Citron, supra nota 44 en 1284. 66 Hildebrandt, supra nota 44. Regresaré a este punto en la sección V. 67 Bland, supra nota 1. 68 Citron, supra nota 44 en 1252.


eficiente.69 Sin embargo, a pesar del valor de dichos objetivos para el gobierno, Kerr afirma

justamente que “este enfoque ignora la idea que subyace en el supuesto de la inocencia

asociada a los valores del debido proceso –básicamente, que hay cierta sabiduría en

establecer límites sobre las asunciones que pueden o no hacerse acerca de las personas”

particularmente cuando éstos no participan.70 Las preguntas sobre el diseño o la arquitectura

técnica no bastan para agotar ni responder a las preguntas sustantivas y axiológicas

planteadas por “la permisibilidad de las predicciones, prevenciones y supuestos de cara al

cambio computacional.”71 El punto crucial más oscuro de las tecnologías predictivas es cómo

“la predicción remplaza la necesidad de pruebas,”72 dirigiendo los “primeros pasos hacia

afuera de nuestro actual sistema de pena y castigo ex post facto hacia un sistema que se enfoca

en medidas preventivas ex ante.”73 Este cambio es a expensas de supuestos legales

fundacionales que amenazan y debilitan la legitimidad de los modelos existentes de justicia

social.

A pesar del hecho de que el otorgamiento y revocación de la libertad supervisada

provisional está sujeta a los principios del debido proceso, la delegación judicial hacia

tecnologías anticipatorias opacas para determinar el riesgo de un individuo en libertad

supervisada debilita los principios del debido proceso tales como la:

[N]otificación de audiencia a tiempo e informativa; la posibilidad de saber sobre el caso en tu contra; una audiencia justa e imparcial; una oportunidad para responder; la posibilidad de cuestionar a aquéllos que buscan hacer un caso en tu contra; acceso al consejo legal; el registro público de los procesos; la audiencia pública; razones públicas para la decisión; y, en algunos casos, una habilidad para apelar la decisión o buscar revisión judicial. “74

69 Citron, supra nota 44 en 1253. 70 Kerr, supra nota 9 en 108. 71 Kerr, supra nota 9 en 109. 72 Kerr, supra nota 9 en 100. 73 Kerr, supra nota 9 en 108. 74 Kerr, supra nota 9 en 103-‐04 (citando Mirielle Hildebrandt, Normatividad Legal y Tecnológica: Mas (y menos) que Hermanas Gemelas, 12(3) TECHNÉ: J. OF THE SOC’Y FOR PHIL. AND TECH. 169 (2008)).


De esta manera, las personas en libertad condicional y provisional ofrecen un campo de

pruebas interesante en la intersección entre las doctrinas establecidas y los discursos y

practicas emergentes habilitados por tecnologías predictivas enfocadas en prever riesgos

futuros. A pesar de su criminalización por actos pasados, las condiciones de libertad

supervisada impuestas a personas son crecientemente basadas sobre los cálculos actuariales

realizados por nuevas tecnologías predictivas que supuestamente determinan los riesgos de

daños futuros. Como ya se indicó en relación al software de Berk, las predicciones predictivas

están actualmente siendo utilizadas para determinar, por ejemplo, el nivel de supervisión

dado a personas en libertad supervisada y para determinar quién es más propenso a cometer

un asesinato. Las personas en libertad supervisada están en la cúspide de un proceso de

hibridación tecno-‐normativa habilitada por tecnologías preventivas de predicción,

independientemente de las doctrinas oficiales subyacentes a la regulación de sus vidas.

IV-‐ Justicia actuarial y ley penal

El discurso oficial del actual régimen Anglo-‐americano de responsabilidad penal

todavía sostiene que las personas son responsables por los daños que cometieron en el

pasado, “requiriéndose una acción que preceda al castigo.”75 Específicamente, la

responsabilidad penal sostiene que una persona es responsable penalmente cuando él/ella

actúa intencionalmente con mens rea, o estado mental requerido para la ofensa específica (es

decir, propósito, conocimiento, impertinencia o negligencia). Un acto bajo la ley criminal es

75 Hildebrandt, supra nota 44.


“un movimiento corporal intencional y ejecutado por un agente cuya consciencia está

razonablemente intacta.”76

Este marco del individuo y su intencionalidad al cometer crímenes pasados está en el

corazón de un ancho y conflictivo debate entre voluntarismo, determinismo y compatibilismo,

que involucra cuestiones sobre libre albedrío, los organismos y sus restricciones. Más allá de

los dos extremos de voluntarismo (o indeterminismo), que presume que los actos mentales

desencarnados pueden ocurrir en la ausencia de fuerzas causales, y el determinismo, que

borra completamente la agencia de sujetos sociales en favor de una causalidad estructurada

más allá de su voluntad (por ejemplo: genética, social), yo estoy en favor del enfoque de

Hildenbrandt, donde “la autonomía […] es siempre relativa y relacional [y por lo tanto] nos

aleja de un uso monopolístico del lenguaje causal hacia un lenguaje de constitución mutua, lo

cual claramente no excluye la atribución de causalidad.”77 La autonomía de los sujetos

sometidos a los poderes policiales del estado debe siempre interactuar con los discursos

legales, sociales y las crecientes practicas tecnológicas que restringen, habilitan y constituyen

sus identidades dentro del sistema, como también sus posibilidades creativas de resistencia

dentro ella.

La “cultura del riesgo” está en el centro del uso de las tecnologías preventivas

predictivas que debilitan las premisas fundacionales de la ley penal. La cultura del riesgo se

refiere a cómo el riesgo se ha vuelto un principio organizativo para las sociedades que traen el

futuro hacia el presente “por medio de la organización reflexiva de tecnologías para hacer

76 Stephen J. Morse, Genética y Responsabilidad Criminal, Tendencias en Ciencias Cognitivas (2011) (próximo). 77 Hildebrandt, supra nota 44 (declarando que lo mismo puede ser dicho de la “normativa regulativa de tecnologías” sobre el hecho que no causan comportamientos, “pero más bien los constituyen o regulan, [desencadenando o proporcionando] un comportamiento en lugar de otro.


perfiles de riesgos.”78 En términos del sistema de justicia penal, Ericson asocia la obsesión

cultural del riesgo con el “declive de la inocencia,” marcada al privilegiar la certidumbre y la

eficiencia a expensas del debido proceso. De acuerdo con Ericson, “la justicia estadounidense

a descuento” ha remplazado los juicios penales con negociaciones abiertas en corte dónde

Los casos son típicamente resueltas sin un archivo policial, declaraciones de testigos, evidencia forense u oficiales de la corte quienes den evidencia de cualquier familiaridad con las alegaciones o el acusado” porque el acusado se presume culpable. La carga de la prueba-‐ el estado debe proveer todos y cada uno de los elementos de la ofensa más allá de una duda razonable-‐ es negado, y el modelo de conflicto entre las partes es invertido. El sistema es inquisitivo, dependiente del reconocimiento público de culpa por parte del defendido para su legitimidad y sobrevivencia. Porque la negociación de los cargos imputados pone al modelo de conflicto entre las partes de cabeza y lo convierte en uno en donde se le exige al individuo elegir entre una serie de opciones las cuales son más o menos onerosas, en vez de requerir que, en primer lugar, el estado esté en posesión de suficientes pruebas legales, hay pocos, si acaso algunos, límites al caso del acusador. En cambio, existe cada incentivo para que la policía y la fiscalía confíen en un sistema de descuentos abiertos y penas para obtener confesiones como la principal prueba de culpabilidad, en vez de una investigación independiente y completa.79

La primacía del la elaboración de perfiles de riesgos y la colocación de personas dentro

de las categorías propias del riesgo completamente desplaza “la culpabilidad moral y la

inocencia”80 y por lo tanto algunas de las principales víctimas de este esquema son el debido

proceso, la deliberación y el principio de la presunción de inocencia.

De particular relevancia en este debate es el análisis de Feeley y Simon sobre el

cambio de la vieja a la nueva criminología en la década de los noventa. Ellos mostraron cómo

el “modelo clásico” de justicia penal enfocada en “la intensión para asignar la culpa”81 de actos

pasados, basados en el individuo como la unidad de análisis en la responsabilidad penal, ha

sufrido cambios importantes relacionados al uso de tecnologías preventivas predictivas.

78 Richard Ericson, El declive de la Inocencia, 28 U. B.C. L. Rev. 367 (1994). 79 Ericson, supra nota 79 en 373. 80 Ericson, supra nota 79 en 378. 81 Feeley y Simon, supra nota 8 en 451.


Mientras la antigua criminología estaba interesada en la “responsabilidad, culpa, sensibilidad

moral, diagnosis, o intervención y tratamiento del infractor individual,” la nueva criminología

está enfocada en una “consideración actuarial de agregados” o “técnicas para identificar,

clasificar, y manejar grupos en orden de peligrosidad.”82 El cambio es visto en términos de una

movida de criminología sociológica hacia una criminología actuarial.

La criminología sociológica tiende a enfatizar el crimen como una relación entre el individuo y las expectativas comunes de su comunidad. Las políticas basadas en esta perspectiva se dirigen a problemas de reintegración, incluyendo el desajuste entre motivación individual, orientación normativa, y las estructuras de oportunidad social. En contraste, la criminología actuarial subraya la interacción de instituciones de justicia penal y segmentos específicos de la población. Las discusiones políticas enmarcadas en sus términos enfatizan el manejo de grupos de alto riesgo y hacen menos salientes las cualidades de delincuentes individuales y sus comunidades.

Por consiguiente, la nueva criminología no contempla la desviación del individuo, la

posibilidad de transformación o rehabilitación, en cambio, moviliza un ethos gerencial de

desviación que busca regular los riesgos relacionados a los diferentes niveles de peligrosidad

de grupos sociales en lugar de individuos. La identificación y gestión de “grupos rebeldes”

toma lugar a través de “un lenguaje actuarial de cálculos probabilísticos y distribuciones

estadísticas aplicadas a poblaciones.”83

Busca sortear, clasificar y separar los menos de los más peligrosos, y usar estrategias racionales de control. Las herramientas para esta empresa son “indicadores,” tablas de predicción, proyecciones de poblaciones, y similares. En estos métodos, el diagnóstico individualizado y la respuesta es desplazada por sistemas agregados de clasificación para propósitos de vigilancia, confinamiento y control.84

El discurso de la nueva criminología está por tanto empapado en el lenguaje del riesgo y

probabilidades en su búsqueda de principios sistémicos de racionalidad y eficiencia para la

82 Feeley y Simon, supra nota 8 en 452. 83 Feeley y Simon, supra nota 8 en 452. 84 Feeley y Simon, supra nota 8 en 452.


justicia penal como un todo. En lugar de dirigirse hacia las raíces del crimen, el objetivo de la

nueva criminología es hacer del crimen algo “tolerable a través de coordinación sistémica.”85

V Colonialidad automática: “usted parece ser, por lo tanto usted debe ser castigado”

En esta sección y por la vía de los debates postcoloniales y la teoría relacionada de la

“colonialidad del poder,” me enfoco en cómo las continuidades del imaginario colonial

apuntalan la axiología tecno-‐social de las tecnologías preventivas predictivas. Empiezo la

discusión con Hidenbrandt, Harcourt, como también con las ideas de Feely y Simon sobre el

proceso por el cual las tecnologías predictivas estigmatizan grupos y luego introducen al

debate la noción de colonialidad de poder.

A – “Grupos rebeldes” y las tecnologías predictivas.

Hildenbrandt extiende los límites de la criminología actuarial al enfocarse en las

implicaciones de la elaboración proactiva de perfiles forenses para la criminalización de actos

futuros “que pueden o no calificarse como acciones criminales” a diferencia de la de la

elaboración retroactiva de perfiles forenses que está circunscrita a la investigación de

crímenes que en realidad fueron cometidos.86 Ella distingue entre un “perfil no-‐destributivo,”

el perfil de las correlaciones dentro de un grupo o categoría de personas con un riesgo

promedio que se aplica al grupo como un todo en lugar de a sus miembros individuales, y un

“perfil indirecto individual,” la aplicación de un archivo grupal a un individuo. La distinción es

crucial para demostrar el serio vacío legal que emerge en el contexto de un perfil indirecto

individual en la medida que un problema causal emerge “entre promedios estadísticos al nivel

de una población y su aplicación a un caso individual.”87

85 Feeley y Simon, supra nota 8 en 455. 86 Hildebrandt, supra nota 44. 87 Hildebrandt, supra nota 44.


La elaboración de perfiles forenses proactivos envuelve la construcción de un grupo de perfiles que apuntan hacia una refinada categorización de ciudadanos para detectar criminales potenciales, terroristas, o inmigrantes ilegales. Por ejemplo, medidas de vigilancia podrían ser empleadas para monitorear a personas desempleadas, personas de color, varones de descendencia arábe, o personas viviendo en barrios específicos, porque las estadísticas indican que sus posibilidades de verse involucrados en comportamiento criminal son significativamente mayores que en otras categorías de ciudadanos.88

Si las características de un ciudadano individual se ajustan a los perfiles criminales, ellos son

considerados culpables en un régimen basado en perfiles forenses proactivos. Esta forma de

criminalización es típica de la justicia actuarial que “no se interesa por acciones delictivas

intencionales o culposas, sino por comportamientos que son indicativos de un cierto riesgo a

la sociedad o sus partes.”89 De esta manera, la creación de perfiles actuariales “confirma que

la categorización puede fácilmente convertirse en estigmatización, que puede ‘normalizar’ a

las personas en tipos de conducta que se ajustan a los perfiles a los que se equiparan.”90

Además, Harcourt muestra como la utilización de perfiles lleva a una profecía autocumplida

de criminalidad al, por un lado, no tomar en cuenta el rango diferencial o elasticidad de las

opciones de los grupos señalados en comparación con los no señalados y, por otra parte, al

enfocar la vigilancia de supuestos grupos de alto riesgo que son patrullados y detenidos

desproporcionadamente en relación a otros grupos.91

Los discursos y prácticas de los modelos actuariales preventivos predictivos y las

tecnologías cosifican a los desafortunados sujetos sociales sometidos a sus análisis de riesgo

dentro de un estado de exclusión permanente en la sociedad. Feeley y Simon ven a estos

procesos en términos del uso de la noción de la clase baja, lo cual se refiere a

88 Hildebrandt, supra nota 44. 89 Hildebrandt, supra nota 44. 90 Hildebrandt, supra nota 44. 91 Bernard Harcourt, EN CONTRA DE LA PREDICCION: PERFILADO, PATRULLADO Y CASTIGO EN UNA ERA ACTURIAL (University of Chicago Press 2006).


Una población preponderantemente hispana y afroamericana viviendo en zonas concentradas de pobreza en ciudades centrales, separados físicamente e institucionalmente de los suburbios o lugares convencionales de la vida social y económica en América. En contraste con los grupos cuyos miembros son considerados empleables, aun cuando podrían estar temporalmente desempleados, las clase baja es entendida como una población permanentemente marginal, sin educación, sin habilidades, y sin esperanzas; un segmento auto-‐perpetuado y patológico de la sociedad que no es integrable a un todo más grande, ni siquiera como una reserva de trabajo.92

La objetivización de la otredad criminal empuja hacia “las correcciones aún más hacia

un auto entendimiento basado en el imperativo de pastorear una población especifica que no

puede ser disgregada y transformada sino solo mantenida – una función similar a la gestión de

desechos.”93 El “comportamiento indebido colectivo potencial”94 de la clase baja la inclina

hacia un aura social de peligro y riesgo que la hace altamente susceptible a la axiología tecno-‐

social habilitada por las fuerzas gerenciales y regulatorias de las tecnologías preventivas

predictivas.

B-‐ Del colonialismo a la colonialidad del poder

Aunque Feeley y Simon invocan “al colonialismo” y la “carga del hombre blanco” como

metáforas organizadoras,95 mi discusión de colonialidad del poder habla de cómo las

configuraciones discursivas y estructurales de la historia del colonialismo todavía son

increíblemente relevantes para entender los espectáculos del poder en el sistema de justicia

penal y la normativa tecno-‐social de las tecnologías preventivas predictivas.

El concepto de “las comunidades imaginarias” se enfoca en la construcción cultural de

la nación y en como los individuos se sienten emocionalmente implicados en configurar una

camaradería o fraternidad para proteger y replicar sus imaginaciones compartidas. Las

92 Feeley Y Simon, supra nota 8 en 467. 93 Feeley y Simon, supra nota 8 at 470. 94 Feeley y Simon, supra nota 8 en 467. 95 Feeley y Simon, supra nota 8 en 469.


comunidades imaginarias están basadas en las relaciones entre vecinos y la construcción de

fronteras finitas, aunque elásticas.96 En occidente, las comunidades imaginarias están

profundamente implicadas con historias coloniales e imperiales que enfrentan al occidente

contra el resto. Al concebir a los otros coloniales como primitivos y retrasados, occidente se

concibe como civilizado y superior.97 La teoría Postcolonial ha sido crucial para entender

cómo la producción de conocimiento durante las expansiones imperiales estuvo fuertemente

incorporado a los binarios occidente/otros y cómo aún continua teniendo resonancia.

Sin embargo, algunos críticos retan el término postcolonial porque puede implicar el

fin del colonialismo, dejando sin examinar las mutaciones del poder de los poderes globales

hegemónicos.98 La dudosa temporalidad de lo postcolonial colapsa con las diferencias entre la

independencia de los estados coloniales donde “los europeos formaron sus nuevos estados-‐

naciones en territorios no europeos a expensas de las poblaciones indígenas”99 y las luchas

independentistas de estados-‐naciones libradas por sus poblaciones indígenas en contra de

imperios europeos en el siglo veinte. Es importante distinguir las diferentes formas de

dominación global (por ejemplo, colonización, colonización interna, colonización imperial,

asentamiento profundo de colonos y asentamiento de colonos disidentes) en lugar de

fundirlas bajo la categoría de lo postcolonial. De esta manera, es posible teorizar las

peculiaridades de los continuos desbalances globales de poder tales como los asentamientos

96 BENEDICT ANDERSON, COMUNIDADES IMAGINARIAS: REFLEXIONES DE LOS ORIGENES Y ESPARCIMIENTO DEL NACIONALISMO (Verso 1991). 97 EDWARD SAID, CULTURA E IMPERIALISMO(Vintage Books 1993); ORIENTALISMO (Vintage Books 1978). 98 “El término ‘post-‐colonial’ trae consigo la implicación de ser del pasado, socavando las trazas des figurativas económicas, políticas y culturales del presente. El ‘post-‐colonial’ inadvertidamente da brillo al hecho que la hegemonía global, aun después de la guerra fría, persiste en otras formas que evidencian el colonialismo” Ella Shohat, Notas sobre lo 'Post-‐Colonial,' 31/32 Social Text 99, 105 (1992). 99 Shohat, supra nota 99 en 103.


de colonos disidentes que no han sufrido descolonización (por ejemplo, Estados Unidos,

Australia, Canadá) y del imperialismo sin colonias (por ejemplo Estados Unidos).100

Similarmente, Quijano y su noción de “colonialidad de poder” muestra como a pesar

de las luchas exitosas por la independencia en el siglo 19 en América Latina, las formas de

dominación coloniales (étnicas, raciales y económicas) continúan siendo restablecidas dentro

de los marcos de las nuevas formas de estado-‐nación. Mientras la clásica colonización

imperial se refiere a la dominación directa de amplio rango de territorios por un poder

central, la colonialidad del poder señala una dominación más sutil desplegada por la cultura

neo-‐colonial hegemónica.101 Las jerarquías étno-‐raciales del colonialismo están todavía

recreadas a pesar de la erradicación del colonialismo formal. Por lo tanto, la colonialidad

puede existir sin una administración colonial, cómo también la independencia sin

descolonización. 102 La importancia que Quijano pone sobre las construcciones culturales de

la historia colonial tales como raza y etnicidad muestran la imposibilidad de conceptualizar

sólo las relaciones materiales de la dominación; esto es, sin ver su inscripción en el imaginario

social de dominación: las imágenes y palabras que el poder utiliza en el terreno disputado de

la desigualdad. La colonialidad es un eje de dominación que está inscrito en, pero distinto a,

los ejes capitalistas de explotación. La colonialidad y la modernidad son creaciones de la

expansión europea y la colonización, llevando a la invención de las Américas, Europa y África

100 Anne McClintock, El ángel del Progreso: Fallas en el término 'Post-‐Colonialismo,’ 10 Soc. Text 84 (1992). 101 Aníbal Quijano, “Raza”, “etnia” y “nación” en Mariétegui: Cuestiones abiertas, en ENCUENTRO INTERNACIONAL: JOSÉ CARLOS MARIÁTEGUI Y EUROPA. EL OTRO ASPECTO DEL DESCUBRIMIENTO 167 (Empresa Editora Amauta S.A. 1992); Colonialidad y modernidad/racionalidad, 13 Perú Indígena (no. 29) 11 (1993); Modernidad, Identidad and Utopía en Latinoamérica, 2 Boundary 140 (1992). 102 Quijano, supra nota 102, “Raza”, “etnia” y “nación” en Mariétegui.


en una nueva geografía del mundo que privilegia a occidente como el imaginario social

hegemónico y proclama el sistema mundial capitalista.103

Estas teorías ayudan a explicar cómo los Estados Unidos, como un sitio de

asentamiento de colonos que alcanzo la independencia sin descolonización, está

profundamente implicado en las historias de colonialidad a través del uso de jerarquías etno-‐

racial-‐sexuales que mantienen a sus otros en sus lugares a pesar del lenguaje inclusivo del

liberalismo norte americano. África, Latinoamérica y la América Nativa son algunos de los

espacios de otredad incomprensibles contra los cuales los Estados Unidos objetifica su propia

modernidad y el progreso de su civilización. Por lo tanto, las identidades afroamericanas,

indígenas americanos y latinos en los Estados Unidos están inscritos en largas y complejas

historias de conquista y dominación, desde el la invención de las américas, y no pueden ser

entendidas fuera de los históricamente situados imaginarios sociales de colonialidad.104

Por consiguiente, las altas tasas de encarcelación de minorías en los Estados Unidos

tales como los afroamericanos, latinos e indígenas americanos son muy reveladores de la

colonialidad del poder. La sobrerrepresentación de personas de color en el sistema de justicia

penal es conocida como Contacto Minoritario Desproporcionado (CMD).105 En 2005, hubo

cerca de 1.5 millones de prisioneros federales,106 lo cuales incluyen 636,055 blancos, 649,519

103 Quijano, supra nota 102, Modernidad, Identidad y Utopía en Latinoamérica; WALTER MIGNOLO, HISTORIAS LOCALES, diseños GLOBALES: COLONIALIDAD, CONOCIMIENTOS SUBALTERNOS Y PENSAMIENTO DE FRONTERA (Princeton University Press 2000). 104 Agustín Laó-‐Montes, Montaje de Mambo: La latinización en la Ciudad de Nueva York, en MONTAJE DE MAMBO: LA LATINIZACION EN LA CIUDAD DE NUEVA YORK 1, 5-‐6 (Agustín Laó Montes & Arlene Dávila eds., Columbia University Press 2001). 105 Bret Garland, Casia Spohn y Eric J. Wodahl. Sin proporcionalidad Racial en la población de la prisión estadounidense: Uso del Método Blumstein para Dirigirse a la Crítica Carrera Racial y el Problema de Justicia del Siglo 21 (2008), http://www.cjcj.org/files/racial_disproportionality.pdf (visitado Ago. 7, 2012). 106 Christopher Hartney and Linh Vuong, Creados Igual: Disparidades Raciales y Étnicas en el Sistema penal de EEUU., en 19 (2009), http://www.nccdglobal.org/sites/default/files/publication_pdf/created-‐equal.pdf (visto Ago. 7, 2012).


afroamericanos y 197,712 hispanos.107 De acuerdo a un artículo del New York Times,108 1 de

cada 100 adultos estadounidenses estuvieron en prisión en 2008, 1 de cada 15

afroamericanos adultos y 1 de cada 36 hispanos adultos estuvieron detrás de las barras.109 Un

estudio de información que abarca del 2003 al 2006 demuestra un confinamiento

desproporcionado de afroamericanos, indígenas americanos e hispanos,110 sobre quienes

consistentemente se imponen condiciones más severas..111

En relación a los afroamericanos solamente las estadísticas son particularmente

desgarradoras. En 1997 el U.S. Census Bureau reportó que 9.3% de las personas negras

estaban encarceladas en contraste con el 2% de la población blanca, lo que significa que los

negros tuvieron 465% más probabilidades de ser encarcelados que los blancos.112 Además, el

2009 muestra que aunque los afroamericanos son solo 13% de población en general,

conforman hasta el 28% de todas las detenciones, 40% de todos los reclusos en prisión y 42%

de la población condenada a muerte.113

Los estudios también han mostrado que las minorías son propensas a sufrir

discriminación racial en el proceso al momento de dictar sentencias. Por ejemplo, las cortes

federales son más propensas a discriminar directamente en contra de negros en términos de

la duración de la sentencia,114 mientras los hispanos tienen probabilidades más altas de ser

encarcelados.115 En tanto que para la libertad supervisada y condicional, en 2006 “los

107 Hartney y Vuong, supra nota 107 en 20 (Tabla 7). 108 Adam Liptak, 1 en 100 Adultos Americanos están Tras las Barras, Dice Nuevo Estudio, NYT (Febrero 28, 2008), http://www.nytimes.com/2008/02/28/us/28cnd-‐prison.html. 109 El artículo especifica que 1 en 9 hombres negros entre las edades de 20 y 34 años estuvo encarcelado, lo que indica la alta presencia de jóvenes negros en la población de la prisión. Liptak, supra note 109. 110 Garland et al., supra nota 106. 111 Garland et al., supra nota 106 en 3. 112 Broom v. Deney, 659 F.3d 658, 663 (2011). 113 Hartney y Vuong, supra nota 107 en 2. 114 Tushar Kansal, Disparidad Racial en el Sentenciado: Una Revisión de la Literatura 4 (2005), http://www.sentencingproject.org/doc/publications/rd_sentencing_review.pdf. 115 Kansal, supra nota 115 en 4.


afroamericanos estuvieron en libertad supervisada y condicional con una tasa casi 3 y 5 veces

mayor que los blancos [y] los hispanos e indígenas americanos estuvieron en libertad

condicional a 2 veces la tasa para blancos.”116 En general, la supervisión correccional mostró

un incremento notable de participación a través de los años 1980 a 2009.117 De acuerdo al U.S.

Bureau Census Statistics, 4,203,967 individuos estuvieron en libertad supervisada durante

2009, sobrepasando a las personas en libertad provisional, las cuales sumaron un total de

819,308.118 El número de personas en libertad supervisada en 2010 fue de 4,055,514 de los

cuales 1,478,347 eran blancos, 813,922 afroamericanos y 351,501 latinos, entre otras

categorías.119 Las estadísticas anteriores muestran cómo uno de los mayores costos de la

axiología tecnológica del perfilado preventivo de justicia actuarial es el proceso de re-‐

estigmatización de grupos que históricamente han sido sujetos de la colonialidad del poder

dentro de los discursos y representaciones mayoritarios. Los Estados Unidos recrea

problemáticas de opresión etno-‐raciales y clasistas continuadas en relación a afroamericanos,

latinos e indígenas americanos, que fueron centrales en la historia colonial e imperial de la

expansión europea y quienes están ahora desproporcionadamente involucrados con el

sistema de justicia penal.

Similarmente, la colonialidad del poder ayuda a conceptualizar las continuidades del

imaginario colonial que están implícitamente recreadas en el uso de tecnologías preventivas

predictivas. Lo que está en juego en la justicia actuarial y los algoritmos del software

preventivo es el atrincheramiento de “las malas comunidades” a lo largo de los ejes de la

historia colonial y los imaginarios escondidos debajo del aura de la cientificidad. Este proceso

personifica la automatización de la colonialidad, al que me refiero como la automatización de

116 Hartney y Vuong, supra nota 107 en 3. 117 Lauren E. Glaze y Thomas E. Bonczar, Libertad Condicional y Provisional en los Estados Unidos, 2010, http://bjs.ojp.usdoj.gov/content/pub/pdf/ppus10.pdf. 118 Glaze y Bonczar, supra nota 118. 119 Glaze y Bonczar, supra nota 118 en Apéndice Tabla 7.


una profecía autocumplida estructural a través de las tecnologías preventivas predictivas que

recrean formas de desigualdad que tiene sus raíces en la larga duración de historias coloniales

e imaginarias. De esta manera, la falta de transparencia de los factores que entran en juego en

las determinaciones predictivas de las nuevas tecnologías invoca el espectro de los factores

actuariales y estadísticos que son sintomáticos de la desigualdad social a cambio del potencial

criminal.

C-‐ La colonialidad: de espectáculo a software

¿Que implica el “declive de la inocencia” en una sociedad obsesionada con el riesgo en

el entendimiento de la importancia y el significado de los juicios penales para una sociedad en

general? Los juicios penales han sido considerados obligatorios en la medida en que surgen de

una violación contra la comunidad y, como tales, invocan al cuerpo político en general que

debe ser resarcido mediante la ley. Un infractor es “traído a la justicia porque sus actos han

perturbado y puesto gravemente en peligro a la comunidad como un todo, y no porque, como

ocurre en un juicio civil, el daño ha ocurrido a individuos que tienen derecho a una

indemnización.”120 Además, la indemnización que toma lugar en casos criminales “es de una

naturaleza totalmente diferente; es el cuerpo político en sí mismo el que tiene necesidad de

ser “reparado,” y es el orden público general que ha sido perturbado y necesita ser

restablecido, en sí.”121 De esta forma, los procedimientos penales implican necesariamente a

“la gente” como espectadores del proceso histórico para establecer interpretaciones

hegemónicas de eventos perpetuados en contra del sistema.122 El poder del estado para

castigar en nombre de la reparación del cuerpo político, sin embargo, no debería ser ilimitado

al grado que en una democracia constitucional digamos que “la aptitud para castigar [está

120 HANNAH ARENDT, EICHMAN EN JERUSALEM 261 (Penguin Books 1992). 121 ARENDT, supra nota 121 en 261. 122 SHOSHANA FELMAN, EL INCONSCIENTE JURIDICO 81 (Harvard University Press 2002).


constituida] de una manera que restringe el ejercicio arbitrario o ilimitado [para castigar].”123

No obstante, dado el remplazo de los juicios penales por la negociación a campo abierto en el

escenario de “justicia de descuento” invocada por Ericson y los valores gerenciales sobre

“grupos rebeldes” mencionados por Feely y Simon, vemos que las tecnologías actuariales

preventivas predictivas claramente socavan los límites de la aplicación arbitraria del poder

del estado y plantean preguntas difíciles cómo: ¿en nombre de quién ciertos grupos de la

sociedad están siendo criminalizados por actos aun no cometidos basándose simplemente en

altas probabilidades de riesgo predichas por tecnologías actuariales? ¿Qué reparaciones del

cuerpo político toman lugar en el contexto de la pre-‐criminalización? ¿Quiénes son los

espectadores y quienes están realizando el espectáculo? A fin de explorar estas preguntas,

primero retomaré al “hombre malo” de Holmes.

En términos legales, el cambio del modelo del “Hombre Malo” de Holmes a la

materialización de “malas comunidades” en la justicia actuarial también es el cambio de un

lente individualista de predicción a un proceso estructural de perfilado colectivo a través de

algoritmos predictivos de riesgo que, inadvertidamente desde la perspectiva de las

intenciones de los diseñadores del software, supone longue durée de historias coloniales y

categorizaciones jerárquicas de los pueblos para facilitar la gestión del estado y la vigilancia.

El intento de Holmes de empoderar al Hombre Malo a través de las predicciones legales para

evitar sanciones del estado contrasta con cómo las tecnologías preventivas privilegian

intereses estatales a través de predicciones del comportamiento que están “enteramente en

desacuerdo con los intereses de los sujetos implicados, especialmente cuando se presume que

son los ‘hombres malos’.”124 La pregunta difícil es si las malas comunidades pueden

adecuadamente encajar dentro de las restricciones epistémicas del modelo legal del Hombre

123 Hildebrandt, supra nota 44. 124 Kerr, supra nota 9 en 97.


Malo de Holmes. ¿Puede el modelo legal del Hombre Malo considerar efectivamente la

desigualdad estructural y afectar a la colonialidad automatizada sin intenciones claramente

localizables que apunte a individuos o culpables específicos?125 En consideración al remplazo

de los procesos penales por negociaciones y el ethos gerencial estatal sobre poblaciones

históricamente estigmatizadas sujetas a nuevas formas de custodia, vigilancia y control, el

esfuerzo principal no es reparar el cuerpo político a través de juicios, sino más bien evitarlo

por medio de formas incrementales de pre-‐criminalización a través de evaluaciones de riesgo

para personas pertenecientes a grupos peligrosos.

La crítica de Felman sobre los límites de la ley en relación a los traumas históricos

puede guiar la discusión aquí. Felman amplía el campo de análisis de los juicios al usar el

concepto de “abismo” cultural en su aplicación de la teoría literaria psicoanalítica al análisis

de los juicios. Un abismo nos habita como un “vacío interno,” que se resiste a la consciencia y

no puede ser visto. El trauma como el abismo se vuelve un espacio “accidentado” a través del

cual la cultura se revela a sí misma como un vacío desconocido.126 El abismo no puede ser

totalizado y por lo tanto no puede ser contenido en el argumento de clausura de un juicio. La

ley trata de cruzar el abismo sin fondo con racionalizaciones legales y codificaciones en un

intento para cuidarse de la irregularidad e irracionalidad impecable del abismo. Aunque la ley

trata de construir cimientos de forma consciente para un abismo sin fondo y la inconciencia

por excelencia, la historia de la ley y el trauma es una de esas historias de barcos en la noche

condenados a la recreación repetitiva de su trauma desafiando el cierre buscado por la ley.

125 Kerr explica como Holmes abrió la puerta a nuevas re-‐conceptualizaciones de este metafórico ser legal como abarcando voces contra-‐hegemónicas o simplemente actuando sin moral en lugar a intereses personales racionales y amorales Kerr, supra note 9 en 91-‐93. 126 FELMAN, supra nota 123 en 91.


Por lo tanto, la ley esta pre-‐destinada a fallar en su intento de transformar el abismo

traumático en hechos irrefutables.127

La colonialidad del poder incluye a ciertos sujetos en las puertas giratorias de la

criminalidad representadas mediante juicios puede ser vista como una repetición de las

experiencias traumáticas del colonialismo y del racismo. Los juicios repetitivos de sujetos

implicados en la historias de colonialidad pueden mover la mirada acusadora de los

sospechosos habituales a la sociedad y la ley como los actos estructurales de la violencia,

reubicando el sitio de la monstruosidad criminal a un escenario más complejo donde los actos

criminales se convierten en síntomas en lugar de desviaciones de un estado de orden y

armonía. La pregunta se convierte en ¿el orden de quién? ¿Y para quién? y ¿Quién debe pagar

el precio de la armonía de algunos a expensas de otros? El impacto acumulativo de los juicios

constantemente criminalizando poblaciones históricamente estigmatizadas puede llegar a ser

una condena de normalidad a nivel social, señalando, por ejemplo, la inmanencia del racismo

en el sistema de justicia penal. El estatus quo es un hecho visible y la normalidad en si misma

se vuelve (potencialmente) criminal dada la falla de la ley de contener las fisuras del trauma

histórico de colonialidad como se muestra diariamente en las salas de audiencia. La historia y

su axiología de valores específicos se convierten en el espejo incómodo donde las normas

sociales se ven artificiales y las costuras del poder ya no están escondidas debajo del velo de

universalidad y en cambio hacen un espectáculo de sí mismas como arbitrarias, contingentes

e históricamente arraigadas.

Por esta razón, presumir culpa a través de las crecientes incursiones de tecnologías

preventivas predictivas que pueden sobrepasar los principios del debido proceso ofrece una

salida perversamente “graciosa” a las dramatizaciones diarias de desigualdad estructural y

127 FELMAN, supra nota 123 en 95, 162.


racismo institucional en las salas de audiencia. La automatización de la colonialidad está por

lo tanto relacionada a su remoción progresiva del espectáculo en el juzgado a los criterios

opacos del software dónde los vectores de opresión están ocultos más efectivamente debajo

de un manto de neutralidad y seudo-‐cientificidad con algoritmos predictivos que últimamente

afectan la vida, o al menos la calidad de vida, de aquellos nacidos en el lugar equivocado en el

momento equivocado.

D-‐ Aura de cientificidad, efectos de veracidad y la re-‐invención de lo criminal

De acuerdo con Bourdieu, las sociedades reproducen sus estructuras de dominación128

a través de capital simbólico o valores culturales que son centrales al proceso de legitimación

en las estructuras de dominación. Dichos valores centrales son materializados o presentados

como universales, pero son de hecho histórica y políticamente contingentes o arbitrarios. De

todas las formas de “persuasión escondida,” la más implacable es aquella ejercida,

simplemente, por el orden de las cosas,”129 y no hay nada como la ciencia para obtener el

apoyo del “sentido común” del imaginario social de la eficiencia y el pragmatismo

gubernamental. El discurso de Berk sobre la superioridad de su software predictivo

preventivo es un ejemplo de ello.

El desdén de Berk por el matizado proceso discrecional de decisiones al examinar un

caso individual para hacer una determinación en pro de un proceso automatizado,

homogenizado y consistente afianza una seductora aura de cientificidad sobre las tecnologías

predictivas en relación a la supuestas sucias e inconsistentes maniobras de intervención

humana en la determinación del riesgo. El peligro del aura de cientificidad de las tecnologías

128 Ver, por ejemplo, PIERRE BOURDIEU, REPRODUCCION EN EDUCACION, SOCIEDAD Y CULTURA(Sage 1990); DISTINCCION: UNA CRITICA SOCIAL AL JUCIO DE TATSTE (Harvard y Routledge 1984); HOMO ACADEMICUS (Stanford 1984); y, EL ESTADO DE NOBLEZA (Stanford 1989). 129 Pierre Bourdieu & Loïc Wacquant, Violencia Simbolica, en VIOLENCIA EN GUERRA Y PAZ: UNA ANTOLOGIA 272 (Nancy Scheper-‐Hughes Y Philippe I. Bourgois eds., 2004).


predictivas descansa en sus poderosos efectos de veracidad. Hildenbrandt muestra como a

pesar de la capacidad del perfilado de proveer hipótesis de eventos futuros, las “hipótesis no

proveen causas o razones [y] son meras correlaciones estadísticas.”130 Sin embargo, el efecto

verdadero de las correlaciones sin causa puede al final llevar a prescindir de la necesidad de

causalidad y posibilitar que las correlaciones se conviertan en “causales”. Otros han llamado

esto un “sesgo automatizado,” es decir, cuando la automatización computacional se vuelve “un

remplazo heurístico atento para buscar y procesar información”131 y “efectivamente convierte

a una sugerencia de un programa de computación en una decisión final en la que se confía.”132

En última instancia, los análisis actuariales automatizados están redefiniendo lo “real” al

grado de que “lo que es real es lo que la tecnología es capaz de definir y representar.”133 Para

el no-‐experto, las tecnologías y sus predicciones pueden operar como poderosos oráculos

jeroglíficos que combinan la pátina autorizada de la ciencia al análisis del riesgo de los futuros

potenciales daños. De esta manera, la colusión de ciencia, tecnología y su aura son

fundamentales para entender la efectividad de las aseveraciones de veracidad en el campo

emergente de los softwares preventivo predictivos.

El aura seductora de la cientificidad en las tecnologías preventivas predictivas ejerce

una fuerte fuerza que cosifica y naturaliza las diferencias sociales. Las evaluaciones de riesgo

eluden por completo la inscripción cultural y especificad histórica de los mismos criterios

sobre los que se determina el riesgo. El orden de las cosas que ofrecen las tecnologías

predictivas es particularmente poderoso en la supresión de cómo sus mismos discursos son

una construcción cultural y como en última instancia las pretensiones de verdad científica

130 Hildebrandt, supra nota 44. 131 Citron, supra nota 44 en 1271 (citing Linda J. Skitka et al., Automatización Sesgo y Errores: ¿Son los equipos mejores que los individuos?, 10 Int'l J. Psicología de la Aviación 85, 86 (2000).) 132 Citron, supra nota 44 en 1272. 133 Hildebrandt, supra nota 44 (citing C Ciborra, Tecnologías Digitales y la Dualidad del Riesgo (2004), ESRC Centro de Análisis y Regulación, London School of Economics, Articulo de Discusión No 27).


están siempre mediadas por el lenguaje y la cultura. Nunca hay un acceso inmediato a las

verdades objetivas desde la perspectiva de la teoría social, cultural y los estudios culturales. El

uso de las tecnologías anticipatorias por tanto evita la discusión de lo social, cultural y

económico, entre otros vectores de causalidad que se intersectan en la producción de, por

ejemplo, el “criminal”, la definición de “violencia” y la distinción entre comportamiento

“normal” y “anormal”. De esta manera, el reclamo científico de neutralidad y objetividad es un

mecanismo simbólico efectivo para ocultar las causalidades complejas que constituyen el

compartimento humano.

Como inicialmente se puede inferir de la discusión anterior, las tecnologías

preventivas predictivas no están solo inscritas en formas pre-‐existentes de desigualdad y

vigilancia, sino también se convierten en constitutivas de dichas desigualdades. El trabajo de

Foucault es de particular relevancia aquí. El análisis del discurso hecho posible por el

panóptico de Foucault “cuando se aplica a la modalidad de la información arroja el

descubrimiento incomodo cuando la población participa en su propia constitución como

sujetos de la mirada normalizadora del superpanóptico.”134 Aquí los debates sobre la

existencia de las bases de datos no se agotan por miedo a invasiones a la privacidad y la

“amenaza a un individuo central, pero [se habla de] la multiplicación de individuos, la

constitución de un yo adicional, uno que pueda actuar en detrimento del yo ‘real’ sin que ese

yo ‘real’ esté siquiera consciente de lo que está pasando.”135 Desde esta perspectiva, se puede

decir que las personas suscriben desapercibidamente a las ubicuas relaciones de poder de la

vigilancia del panóptico.136 La mera ubicación del yo es cuestionada cuando “ los fragmentos

134 COLIN J. BENNETT Y CHARLES RAAB, LA GOBERNANZA DE LO PRIVADO: INSTRUMENTOS POLITICOS EN LA PERSPECTIVA GLOBAL 22, 24 (MIT Press 2006). 135 BENNETT ET AL., supra nota 135 en 22, 24. 136 BENNETT ET AL., supra nota 135 en 24.


de información personal circulan constantemente dentro del sistema computacional, más allá

del control personal de cualquier agente.”137

Por tanto, las tecnologías preventivas predictivas se convierten más en constitutivas

que predictivas de la criminalidad en las sociedades caracterizadas por las formas de

vigilancia informática. La vigilancia, creada como una forma de producción de conocimiento,

en lugar de la mera colección de información para administrar personal, amplía el análisis al

enfocarse en los aspectos generativos de la vigilancia. La vigilancia “produce ambas

disciplinas (esto es, de conformidad con la norma) [como también] las disciplinas (campos del

conocimiento regulados y la pericia).”138 Al alterar “las estructuras de visibilidad y las

estructuras del significado nos hace visibles-‐ nos identifica-‐ en relación a las normas que

produce.”139 En vez de sólo enfocarse en la recolección de información para predecir el

comportamiento criminal, la vigilancia a través de tecnologías preventivas predictivas puede

ser vista como una forma de producción de conocimiento cuyos aspectos generativos

envuelven nuevas formas de representación de lo criminal.

El impacto desigual de estas tecnologías en las vidas de grupos históricamente

desfavorecidos puede estar efectivamente escondido bajo dicho aura de cientificidad y

neutralidad. En el contexto del uso de tecnologías predictivas para propósitos del sistema de

justicia penal, los costos pueden ser enormes. Las personas acusadas de crímenes,

condenadas a la cárcel y/o puestas en libertad supervisada o condicional son sujetos sociales

particularmente vulnerables dentro de la red tecno-‐social de desigualdad, marcadas por la

transmutación de doctrinas legales pre-‐existentes y prácticas institucionales a través de

137 BENNETT ET AL., supra nota 135 en 22. 138 David Phillips, Computación omnipresente, Espacialidad, y la Construcción de Identidad: Direcciones para la respuesta política, en PRIVACIDAD, IDENTIDAD Y ANONIMATO EN UN MUNDO ENTRELAZADO: LECCIONES DESDE EL CAMINO DE LA IDENTIDAD 308 (Ian Kerr, Valerie Steeves Y Carole Lucock eds., Oxford University Press 2009). 139 Phillips, supra nota 139.


tecnologías preventivas predictivas que perfilan a las personas con un grado de impunidad

que es directamente proporcional a la impotencia del sujeto perfilado.

E-‐¿Consecuencialismo preferente o esencialismo retributivo?

Como hemos visto, el impacto de las predicciones actuariales de riesgos potenciales en

el sistema de justicia penal no está en el futuro lejano de una película exagerada de ciencia

ficción como el Reporte de las minorías, en cambio, ha hecho avances importantes en las áreas

de vigilancia dirigida y las políticas de sentencias, incluyendo la libertad supervisada y la

libertad condicional,140 además ha provisto nuevas articulaciones de la historia amplia y

profunda de las continuidades coloniales.

Las consecuencias del cambio a un modelo de justicia actuarial son amplias y se basan

en los principios de “la detención variable en función de la evaluación de riesgos.”141 Al dejar

de enfocarse en el castigo de los individuos, el modelo actuarial depende más del

encarcelamiento y las nuevas formas de custodia, la vigilancia y el control que han emergido

como “centros de custodia de bajo costo; varias formas de monitoreo electrónico que imponen

una forma de custodia sin paredes; y nuevas técnicas estadísticas para evaluar riesgos y

predecir peligro.”142 Además, la revocación de la libertad supervisada o condicional se vuelve

una “manera efectiva de patrullar y sancionar a una población crónicamente problemática” en

lugar de “un mecanismo para hacer que el proceso de supervisión haga cortocircuito cuando

los riesgos a la seguridad pública se vuelven inaceptables.”143

Un modelo utilitario subyacente expresa los nuevos programas donde el castigo no

depende de la naturaleza de la ofensa ni del carácter del infractor, “sino del riesgo de los

140 Hildebrandt, supra nota 44; Harcourt, supra nota 92. 141 Feeley y Simon, supra nota 8 en 457. 142 Feeley y Simon, supra nota 8 en 457. 143 Feeley y Simon, supra nota 8 en 456.


perfiles [que] identifican a infractores de alto riesgo y […] manteniendo un control a largo

plazo sobre ellos, mientras se invierte en un control de más corta duración y menos intrusivo

para infractores de bajo riesgo.”144 El sistema de justicia penal por tanto maneja el riesgo al

clasificar a los infractores en grandes grupos de acuerdo a su peligrosidad dentro de los

modelos predictivos actuariales usados. Sin embargo, cuando se mezclan estas justificaciones

consecuenciales para el castigo con la axiología tecnológica de tecnologías preventivas

predictivas, la argumentación se convierte en altamente retributiva y discriminatoria.

La cosificación del comportamiento criminal, basada en las evaluaciones de riesgo de

una profecía de colonialidad implícita y autocumplida, hace que los “sospechosos habituales”

sean culpables y moralmente merecedores de la estigmatización que conlleva ser un humano

riesgoso que requiere de las prácticas de gestión preventiva de las fuerzas disciplinarias del

estado. Finalmente, las tecnologías preventivas considera que las personas están esencial e

inevitablemente predispuestas a comportamientos de alto riesgo que los subsume en un

dilema determinístico que ignora completamente los aspectos sociales, culturales e históricos

que componen la criminalidad. En ese sentido, estas tecnologías tienen efectos análogos a los

del determinismo biológico, cuyos sujetos subalternos cosificados en un espacio de fijeza, de

atraso e inferioridad, pero con la gran ventaja de que las tecnologías preventivas esquivan

enteramente las asunciones y estigmatización histórica del determinismo biológico al basar

las futuras evaluaciones de riesgo en criterios opacos incorporados en el diseño del código.

Desde esta perspectiva, las historias e imaginarios coloniales están por tanto vivas y coleando

en las premisas sub-‐textuales y consecuencias sociales de la implementación de predicciones

actuariales basadas en riesgo. Las tecnologías de predicción mantienen a los “sospechosos

habituales” en una caja negra o un espacio de riesgo eterno que justifica su regulación

restrictiva y ultimadamente los deshumaniza como causas perdidas que deben ser 144 Feeley y Simon, supra nota 8 en 458.


mantenidas en los márgenes de la sociedad. Las formas racistas y clasistas de “otreo” criminal

entonces, se mueven incrementalmente hasta llegar a ser inherentemente preventivas.

En una línea similar, Hildenbrandt argumenta poderosamente contra la sobre

determinación de sujetos sociales presentados a los efectos del perfilado proactivo basado en

riesgos. El sobre-‐determinismo ocurre cuando las tecnologías predictivas mantienen la

concepción de que “el comportamiento futuro está enteramente determinado por el pasado, [a

pesar del hecho que] los resultados de las tecnologías actuariales […] ni siquiera claman

predecir el futuro.”145 Las tecnologías preventivas cosifican a los sujetos de la sociedad en una

profecía auto cumplida determinada por los riesgos promedios de un grupo o grupos a los

cuales ellos pertenecen. La cartografía de riesgo o el mapa social de los grupos a los cuales las

personas pertenecen y quienes representan el mayor potencial de daño pueden otras

personas en un estado de fijación que completamente niega su agencia social y la

irreductibilidad de sus acciones a categorizaciones estereotipadas.

Esta por esta razón que Hildenbrandt exige una ética y política de sub-‐determinismo

que “se construye en la realidad como un asunto por llegar a ser en lugar de estar, en el

sentido estático de la palabra, sobre la naturaleza efímera de la realidad como algo que no

podemos definir o asumir, como algo que nos pasa mientras encajamos.”146 En su esquema, el

sobre-‐determinismo y el sub-‐determinismo implican un tema correlacionado y un tema a

correlacionar respectivamente. La distinción radica en reconocer la agencia social o un

“elemento de continuidad inherente” en el tema a correlacionar contrario a la fijación del

sujeto correlacionado con la profecía auto-‐cumplida de las predicciones actuariales.147 El

llamado a la defensa de los sujetos a correlacionar, contrario a los sujetos correlacionados,

145 Hildebrandt, supra nota 44. 146 Hildebrandt, supra nota 44. 147 Hildebrandt, supra nota 44.


parece inclinar la balanza contra la criminalización de comportamientos futuros y reconocer

las relaciones complejas de los sujetos sociales que resisten las categorizaciones fáciles.

Como se mencionó anteriormente, parte de la agenda es darle poder a los sujetos

correlacionables para involucrarlos en el dialogo con los perfiles que igualan “sus

comportamientos o características, proveyéndole con un rango de objeto correlacionados que

indican como ella encaja en diferentes perfiles de grupo [y] esto podría extender su libertad

de comportamiento de una forma u otra.”148 Sin embargo, me preocupa la personalidad

axiológica invocada por Hildenbrandt como aquella de una persona que debe ser idealmente

conforme a las normas de la sociedad. ¿Y qué de la importancia de los agentes sociales como

disidentes, transgresores e iconoclastas para contrarrestar la conversión del determinismo

tecnológico en esencialismo de las tecnologías preventivas predictivas? Lo gris de la línea

actuarial que divide la disidencia como criminal o no criminal invoca la centralidad de las

construcciones sociales y culturales para entender la criminalización de ciertos

comportamientos con respecto a otros. La capacidad para “corregir” los propios

comportamientos, teniendo en cuenta las predicciones actuariales trae escenarios futuros de

conformidad apocalíptica, similares a aquellos representados en los clásicos de ciencia ficción,

pero curiosamente auto-‐infligidos como en el empoderamiento para adecuarse. A diferencia

de la opresión policial de romper una puerta, la naturaleza insidiosa de ”las correcciones”

disponibles a través del cambio proactivo del propio comportamiento puede redefinir la

esfera de lo “razonable” y las suposiciones del sentido común de la vida diaria y limitar la

flexibilidad del sistema para el cambio social. La convocatoria para capacitar a las personas

con su pre-‐criminalizacion a través de los algoritmos predictivos de comportamiento es un

paso importante, pero estoy de acuerdo con Kerr en que la profundidad del problema es la

exclusión de los supuestos del perfilado más que el mero contra manejo de las mismas. 148 Hildebrandt, supra nota 44.


Conclusión.

Las personas en libertad supervisada y están sujetos a la vigilancia tecno-‐hibrida en la

encrucijada de las doctrinas establecidas y los discursos y practicas emergentes habilitadas

por tecnologías preventivas de predicción. A pesar de su criminalización por actos pasados,

las condiciones de libertad supervisada/condicional impuestas a personas están

crecientemente basadas en cálculos actuariales realizados por nuevas tecnologías

anticipatorias que socavan el debido proceso al mantener invisible las supuestos subyacentes

a través de un código con una arquitectura opaca.

A través de la historia los grupos sociales en desventaja, incluyendo clases

discriminadas racialmente, colonizadas, clasificada por sexo/género u otras, han sido

desproporcionadamente sujetas a formas de regulación estatal que criminaliza,

institucionaliza, medica y en forma general vigila. El uso creciente de metodologías actuariales

y su transferencia a tecnologías anticipatorias aún más sofisticadas nunca es inocente, neutral

ni incidental en relación a las formas pre-‐existentes de desigualdad, pero en lugar puede

atrincherar e reinventar esas formas de desigualdad. Por lo tanto, la automatización de

colonialidad puede ser conceptualizada como una profecía estructural auto-‐cumplida,

concedida por el uso público de las tecnologías preventivas de predicción que cosifican a las

comunidades y a las personas que han históricamente luchado en contra de formas sistémicas

de discriminación.

La ausencia del racismo manifiesto en el discurso de los diseñadores del software,

como también en sus diseños, no previene un impacto racista. Los discursos y prácticas

discriminatorias pueden ser altamente sofisticados e insidiosos y a menudo inadvertidos en

relación a las intenciones de los diseñadores del software. Aunque ellos podrían sostener que

su software y proyecciones actuariales están completamente libres de racismo y


reforzamientos coloniales, el uso de estas tecnologías por las fuerzas del estado que han

institucionalizado formas de colonialidad en la manera en que manejan a poblaciones

rebeldes habla de los supuestos de culpa gubernamental en el marco de soporte. Por tanto, un

proceso de “otredad” o “alterador” recae en el centro de las tecnologías preventivas de

predicción que construyen “otros” y se implantan en las desigualdades sociales preexistentes

en una sociedad dada. De esta manera, el barniz de la cientificidad actuarial viene con un

precio alto, es decir, a dispensas de la transparencia, responsabilidad, democracia e

incorporándose en la colonialidad del poder.

Documents

BORRADOR%DE%TRADICCIÓN% Perfil%automatizado:% Racismo ... · NOTADEL%BORRADOR%DE%TRADUCCIÓN/%La%versión%original%de%este%escrito%esen%inglés.%%Esta%traducción%aún%no%ha%sido%revisada%con%