Justicia algorítmica: un enfoque sociotécnico

Abstract

Los instrumentos de predicción del riesgo de reincidencia basados en IA generan numerosos retos para los pilares del Derecho penal. Es urgente una introspección en una disciplina incipiente, el “algorithmic fairness”, cuyo objetivo es construir herramientas éticas, adaptadas al concepto de “justicia”. Se pretende arrojar claridad metodológica en un campo donde convergen disciplinas dispares (ciencia de datos, matemáticas y derecho), intentando dar respuesta a los siguientes interrogantes: ¿es posible trasladar al lenguaje matemático conceptos como “equidad” o “no discriminación”?; ¿hay varios conceptos de lo “justo”? ¿son compatibles? ¿qué resultados arrojan?; ¿es posible tender un puente entre ambos lenguajes que brinde resultados objetivamente más justos?; ¿de qué manera el desarrollo de derechos como la igualdad y la no discriminación deben afectar en la programación? Dicho examen nos permitirá dotar de la necesaria protección a colectivos que sufren el riesgo de ser cada vez más marginalizados por el sistema.