Cuando pensamos en robots se nos viene a la memoria imágenes de películas o dibujos animados en los que aparecen grandes estructuras con aspecto humanoide, sin poca o ninguna capacidad emocional, sin embargo, cuando nos referimos a un robot, este también puede ser inmaterial, como un programa de computación, el cual si puede transmitir determinadas percepciones humanas.
Este es el caso del software COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), usado por el sistema penal de los EE.UU., para predecir las probabilidades que tienen sus prisioneros de reincidir en el delito, resultados que sirven de base para la aplicación de medidas alternativas a la prisión preventiva. El algoritmo con el cual está diseñado este robot es un secreto comercial de su propietaria Northpoint Inc., sin embargo, se conoce que el mismo se basa en análisis de big data y machine learning, teniendo entre sus variables antecedentes penales, familiares y sociales del prisionero.
El método del análisis COMPAS inicia con información proporcionada por los propios detenidos, quienes llenan un formulario al momento de su ingreso a las cárceles norteamericanas. De manera que, parecería que este software tiene coincidencias esenciales con el pensamiento de Cesare Lombroso (1835-1909), criminólogo italiano de finales del siglo XIX.
El nombre de Cesare Lombroso es familiar para quienes han estudiado la cuestión criminal. Su mérito, si lo tiene, está en haber acercado la estadística al análisis de las causas del delito. Sin embargo, considero a su método poco afortunado, pues, al igual que COMPAS, concentra su atención en las prisiones, lo que lo lleva a considerar al prisionero como la medida de todos los delitos, llegando a llamar a su seudo ciencia como “antropología criminal”.
En su libro “Los Criminales”, nos muestra estudios en los que refiere que la negra cabellera y la zurdes son comunes en los estafadores y llega, entre otras audacias, a diferenciar los caracteres entre una prostituta y una ladrona. A la primera la describe como “Imprevista a la exageración, la mujer pública vive un día y otro día, sin para nada preocuparse del siguiente”, mientras que la segunda: “Tiene mucha circunspección y prudencia, si bien le falta completamente sinceridad; desconfía cuidadosamente de su carácter; nunca por abandono; niega siempre a otros sus faltas, jactándose de no sentir remordimientos por ellas”, conclusiones a las que llega, pese a que tienen “mala voluntad que muestran cuando se las pregunta: nunca contestan voluntariamente acerca de sus relaciones amorosas. En esto guardan grande reserva, dando así pruebas de un pudor que falta generalmente en las mujeres públicas”.
A la luz de nuestra época, estos descubrimientos seudo científicos de Lombroso, riñen fuertemente con los derechos humanos y son la evidencia histórica de lo errado que puede llegar a abordarse temas tan complejos como la delincuencia. Recordemos que la criminología crítica ha sido enfática en señalar que las causas del delito no son totalmente responsabilidad del sujeto activo del delito, en palabras de Nils Christie: “El tamaño de la población carcelaria es también el resultado del pasado histórico nacional, de las ideas políticas más importantes y, no menos, de la voluntad de buscar soluciones diferentes a las penales.”
Sin embargo, el método lombrosiano está lejos de desaparecer y al contrario se ha sofisticado con herramientas de alta tecnología como el software COMPAS, que, al igual que Lombroso, realiza análisis de datos tomados de los encarcelados, lo que evidentemente le llevará a conclusiones que refuerzan las bases del sistema penal, con sus defectos y virtudes. Así, por ejemplo, reproduce sesgos raciales, que dentro del sistema penal norteamericano, han sido reiteradamente evidenciados, pues, según cifras del Centro de Investigación Pew, citado por la BBC, en el 2018, se registró una tasa de 2.272 reclusos por cada 100.000 personas adultas de raza negra, mientras que la tasa de reclusos blancos, llegó a 392 por cada 100.000 adultos blancos, desproporción a la cual los sistemas automatizados de decisiones (ADM por sus siglas en inglés), como COMPAS, estaría contribuyendo.
Por ello, he llamado a COMPAS el Lombroso robot, pues es una clara muestra de que la tecnología no está exenta de los sesgos propios del sistema en que opera y obviamente de sus creadores. Sin que esto signifique, que la tecnología sea un mal aliado para el sistema penal, al contrario, será siempre una gran herramienta, en la medida de que genere resultados no sesgados y evite la normalización de sistemas de desigualdad e injustica, algo así, como un algoritmo Nils Christie.
Resalto mucho el contenido del artículo y sobre todo la conclusión efectivamente la tecnología no está blindada para evitar sesgos peligrosos que contribuyan a normalizar lo que los colectivos luchan por erradicar, en ese escenario juegan un rol muy importante profesionales del Derecho como el autor del artículo y más jóvenes Abogados con un nuevo perfil, cercano a la tecnología para evitar que los creadores de programas actúen a su libre albedrío. Derecho- Justicia y Tecnología alineados en el marco del respeto a los Derechos Humanos.
Felicitaciones Dr. Telmo Molina
Leyendo el articulo no pude dejar de pensar en la película “Sentencia Previa” interpretada por Tom Cruise, en la cual sucede algo similar al software COMPAS, pero con “Pitonisas” los cuales advierten el peligro de un futuro homicidio y de igual manera son proclives a que las personas con “influencias” puedan manipularlos y así obtener beneficios.
Es impensable que en el futuro no se cuente o se acceda a estas herramientas tecnológicas, pero tampoco es menos cierto que son proclives a fallar, ya sea por su estructura o por medios externos (personas), debemos pensar en que la tecnología no es el reemplazo de la mente humana, sino mas bien es un apoyo con la cual la sociedad puede para equivocarse menos, y; que menos inocentes puedan ir a la cárcel, sin olvidar que la mente humana tiene una percepción que ninguna maquina podría igualar, prepararnos mas e investigar mas, para no pensar que la tecnología nos puede dar realizando el trabajo que nos corresponde .