Sesgos en Modelos Predictivos en Investigación Criminal

Los modelos predictivos aplicados a la investigación criminal —desde el predictive policing territorial hasta los algoritmos de evaluación individual de reincidencia— prometen eficiencia pero traen consigo un riesgo estructural: el sesgo algorítmico. Cuando un modelo se entrena con datos históricos de policía y judicatura, hereda y amplifica los sesgos previos del sistema. La defensa penal frente a investigaciones cuya base inicial es algorítmica exige cuestionar el origen mismo de la sospecha.

Tipos de Modelos Predictivos en Investigación

Conviene distinguir las familias de modelos, porque su impacto sobre las garantías es distinto. Los modelos territoriales (hotspots) predicen dónde es más probable que ocurra un delito y orientan el patrullaje, con riesgo de discriminación por zonas. Los modelos individuales de perfilado y de reincidencia puntúan a una persona concreta y se han propuesto para decisiones de prisión provisional o libertad condicional. Los modelos de detección de patrones rastrean operativas (tráfico de drogas, blanqueo) en grandes volúmenes de datos. Y los sistemas de priorización investigativa deciden a quién mirar primero. En todos ellos el problema es común: la predicción no acredita un hecho, sino que orienta la sospecha; y si esa orientación está sesgada, contamina todo lo que viene después.

Sesgos Documentados y su Origen

Numerosos estudios (incluyendo trabajos sobre COMPAS en EEUU y modelos europeos) han documentado: (1) reproducción de patrones históricos discriminatorios hacia minorías étnicas y zonas socioeconómicamente vulnerables; (2) feedback loop entre patrullaje algorítmico y datos de denuncia (más policía → más denuncias → más predicción); (3) sobreajuste a datos de denuncia y no de delito real; y (4) opacidad explicativa cuando los modelos son cajas negras propietarias. El origen del sesgo no es, casi nunca, una intención discriminatoria: es la herencia estadística de un sistema que ya trataba de forma desigual a determinados colectivos, ahora revestida de aparente objetividad técnica.

Impacto en Garantías Procesales

Cuando una investigación se origina en un output predictivo, la defensa puede cuestionar: (a) el indicio razonable que justificó la apertura de diligencias, especialmente si el algoritmo está sesgado contra el perfil del imputado; (b) la proporcionalidad de las medidas restrictivas adoptadas; y (c) la presunción de inocencia, que no puede operar de forma asimétrica según el perfil predictivo del sospechoso. El Reglamento UE 2024/1689 refuerza este análisis al clasificar varios de estos modelos como de "alto riesgo" y al prohibir ciertos usos basados exclusivamente en perfiles.

Estrategias de Exclusión y Limitación

En el plano procesal ordinario, el objetivo es doble: excluir o limitar. Si el indicio razonable que abrió la investigación era producto de un sesgo algorítmico acreditado, cabe instar la nulidad de actuaciones y, por conexión de antijuridicidad, la de las diligencias derivadas (registros, intervenciones) conforme al artículo 11.1 LOPJ. Cuando la exclusión total no prospera, se trabaja la limitación del valor convictivo: una pericial técnico-estadística que documente la tasa de error diferenciada por perfil rebaja la fuerza de la prueba. Para blindar la defensa frente a la opacidad propietaria, solicitamos al juzgado el nombramiento de un perito judicial independiente que audite el modelo empleado por la acusación.

Acción Constitucional ante el TC

Cuando el caso lo permite, la vía procesal se complementa con la constitucional. El recurso de amparo es el cauce para denunciar la vulneración de derechos fundamentales —igualdad, presunción de inocencia, tutela judicial efectiva— cuando la práctica algorítmica los ha comprometido, y permite sentar doctrina sobre IA y proceso penal. En paralelo, cuando el funcionamiento anormal de la Administración (incluido el uso de IA sesgada) ha causado un perjuicio acreditable, cabe la reclamación de responsabilidad patrimonial del Estado (Art. 121 CE y Ley 40/2015). En casos relevantes reforzamos la pericial y la argumentación con la colaboración de grupos académicos de inteligencia artificial y derecho.