Sesgos Algorítmicos en la Justicia Predictiva: Cómo la Defensa Cuestiona una Decisión Apoyada en un Modelo Sesgado

La justicia predictiva promete eficiencia: decidir dónde patrullar, a quién mirar primero o qué riesgo de reincidencia presenta una persona a partir de modelos estadísticos. Pero esa promesa esconde un riesgo de fondo, el sesgo algorítmico. Cuando un modelo se entrena con los datos históricos de denuncia y de actuación de un sistema que ya trataba de forma desigual a determinados colectivos, no corrige esa desigualdad: la hereda, la amplifica y la reviste de aparente objetividad técnica. Como abogados penalistas especializados en sesgos de modelos predictivos, explicamos por qué un modelo sesgado no puede fundar ni la sospecha ni la condena, y cómo se combate desde la defensa.

Qué Es la Justicia Predictiva y Por Qué Importa

Bajo la etiqueta común conviven instrumentos muy distintos, y su impacto sobre las garantías difiere:

• Modelos territoriales (hotspots): predicen dónde es más probable que ocurra un delito y orientan el patrullaje, con riesgo de discriminación por zonas y de profecía autocumplida.
• Modelos individuales de reincidencia: puntúan a una persona concreta y se han propuesto para decisiones tan sensibles como la prisión provisional o la libertad condicional.
• Sistemas de priorización investigativa: deciden a quién mirar primero, condicionando el reparto de medios y la propia mirada de la investigación.

En todos ellos el problema es común: la predicción no acredita un hecho, sino que orienta la sospecha. Si esa orientación está sesgada, contamina la decisión de investigar, las medidas que se adoptan después y, en último término, la valoración del caso.

De Dónde Viene el Sesgo

El sesgo algorítmico casi nunca nace de una intención discriminatoria. Es, sobre todo, la herencia estadística de los datos con los que se alimenta el modelo. Conviene tener presentes cuatro mecanismos bien documentados:

1. Reproducción de patrones históricos: el modelo aprende de denuncias y detenciones pasadas y proyecta hacia el futuro los desequilibrios que ya existían frente a minorías o a zonas socioeconómicamente vulnerables.
2. Bucle de realimentación (feedback loop): más patrullaje en una zona genera más denuncias allí, lo que el modelo lee como más delito, lo que justifica más patrullaje. La predicción se confirma a sí misma.
3. Datos de denuncia, no de delito real: el sistema mide lo que se denuncia y se persigue, no lo que verdaderamente ocurre, de modo que sobre-representa lo que ya estaba más vigilado.
4. Opacidad explicativa: cuando el modelo es una caja negra propietaria, ni el afectado ni el tribunal pueden comprobar cómo se llegó a la puntuación.

Las Garantías Constitucionales en Juego

El uso de un modelo sesgado no es solo un problema técnico: roza el núcleo de varios derechos fundamentales. La defensa los articula de forma combinada.

La presunción de inocencia (artículo 24 de la Constitución) impide que la posición de partida del investigado dependa de la puntuación que un algoritmo le asigne. No puede operar de forma asimétrica: nadie debe soportar una sospecha reforzada por su perfil predictivo. La igualdad y la prohibición de discriminación (artículo 14) se ven directamente comprometidas cuando la herramienta trata peor a una persona por pertenecer a un grupo sobre-representado en los datos, aunque la finalidad declarada del sistema fuera neutra.

Y, de manera central, la motivación de las resoluciones (derivada del derecho a la tutela judicial efectiva, artículo 24). Una decisión que restringe derechos —una medida cautelar, una entrada y registro, una intervención— debe explicarse con razones comprensibles y controlables. Si la resolución se apoya, siquiera en parte, en el resultado de un modelo cuyo funcionamiento no puede explicarse ni revisarse, la motivación es aparente: remite a una autoridad técnica que el propio tribunal no controla. Una decisión que no puede explicarse no puede revisarse, y una decisión que no puede revisarse difícilmente respeta el derecho de defensa.

El Reglamento Europeo de Inteligencia Artificial

El Reglamento (UE) 2024/1689 (AI Act) ofrece un marco de referencia útil, aunque no sea una norma penal ni regule directamente la prueba. Distingue, en lo que aquí interesa, dos planos:

• Prácticas prohibidas: entre ellas, evaluar o predecir el riesgo de que una persona cometa un delito basándose exclusivamente en la elaboración de perfiles o en sus rasgos de personalidad. Es justamente el escenario más peligroso del perfilado individual de reincidencia.
• Sistemas de alto riesgo: varios usos de la IA en el ámbito policial y de la administración de justicia se clasifican como de alto riesgo y quedan sujetos a obligaciones reforzadas de gestión de datos, documentación técnica, trazabilidad, supervisión humana significativa y registro.

La consecuencia práctica para la defensa es clara: un sistema que no cumple esas garantías —que no documenta sus datos, que no permite supervisión humana real o que opera dentro de una práctica prohibida— es notablemente más fácil de cuestionar como fundamento de una decisión penal. La calificación, en todo caso, es casuística.

Cómo la Defensa Cuestiona una Decisión Sesgada

La impugnación se construye de forma anticipada y ordenada, y opera en dos planos: el procesal ordinario y, cuando el caso lo permite, el constitucional.

1. Auditar el origen de la sospecha: reconstruir qué información o qué algoritmo determinó la decisión inicial de investigar al cliente, y solicitar al juzgado la documentación íntegra del modelo (datos de entrenamiento, versión, metodología y métricas de validación).
2. Pericial técnico-estadística: aportar o solicitar un informe que documente la tasa de error diferenciada por perfil y que evalúe el sesgo del modelo en relación con el caso concreto, idealmente a cargo de un perito judicial independiente que blinde la defensa frente a la opacidad propietaria.
3. Atacar el indicio y la proporcionalidad: si el indicio razonable que abrió las diligencias era producto de un sesgo acreditado, se cuestiona su validez y la de las medidas restrictivas adoptadas a partir de él.
4. Instar la nulidad: cuando el origen de la prueba o de la diligencia está viciado, cabe alegar la nulidad de actuaciones y, por conexión de antijuridicidad, la de las diligencias derivadas, conforme al artículo 11.1 de la Ley Orgánica del Poder Judicial. Si la exclusión total no prospera, se trabaja la minoración del valor convictivo.
5. Vía constitucional: agotada la vía judicial, el recurso de amparo ante el Tribunal Constitucional permite denunciar la vulneración de la igualdad, la presunción de inocencia o la tutela judicial efectiva cuando la práctica algorítmica las ha comprometido.

En paralelo, cuando el funcionamiento anormal de la Administración —incluido el uso de IA sesgada— ha causado un perjuicio acreditable, puede valorarse la reclamación de responsabilidad patrimonial del Estado (artículo 121 de la Constitución y Ley 40/2015). No se trata de demonizar la tecnología, sino de someterla a las mismas exigencias de fiabilidad, contradicción y control que cualquier otro elemento del proceso. La estrategia exige análisis técnico desde el inicio del procedimiento y se decide caso por caso.