Abogados de Sesgos en Modelos Predictivos en Investigación Criminal

Los modelos predictivos aplicados a la investigación criminal —desde el predictive policing territorial hasta los algoritmos de evaluación individual de reincidencia— prometen eficiencia pero traen consigo un riesgo estructural: el sesgo algorítmico. Cuando un modelo se entrena con datos históricos de policía y judicatura, hereda y amplifica los sesgos previos del sistema. La defensa penal frente a investigaciones cuya base inicial es algorítmica exige cuestionar el origen mismo de la sospecha.

Tipos de Modelos Predictivos en Investigación

Conviene distinguir las familias de modelos, porque su impacto sobre las garantías es distinto. Los modelos territoriales (hotspots) predicen dónde es más probable que ocurra un delito y orientan el patrullaje, con riesgo de discriminación por zonas. Los modelos individuales de perfilado y de reincidencia puntúan a una persona concreta y se han propuesto para decisiones de prisión provisional o libertad condicional. Los modelos de detección de patrones rastrean operativas (tráfico de drogas, blanqueo) en grandes volúmenes de datos. Y los sistemas de priorización investigativa deciden a quién mirar primero. En todos ellos el problema es común: la predicción no acredita un hecho, sino que orienta la sospecha; y si esa orientación está sesgada, contamina todo lo que viene después.

Sesgos Documentados y su Origen

Numerosos estudios (incluyendo trabajos sobre COMPAS en EEUU y modelos europeos) han documentado: (1) reproducción de patrones históricos discriminatorios hacia minorías étnicas y zonas socioeconómicamente vulnerables; (2) feedback loop entre patrullaje algorítmico y datos de denuncia (más policía → más denuncias → más predicción); (3) sobreajuste a datos de denuncia y no de delito real; y (4) opacidad explicativa cuando los modelos son cajas negras propietarias. El origen del sesgo no es, casi nunca, una intención discriminatoria: es la herencia estadística de un sistema que ya trataba de forma desigual a determinados colectivos, ahora revestida de aparente objetividad técnica.

Impacto en Garantías Procesales

Cuando una investigación se origina en un output predictivo, la defensa puede cuestionar: (a) el indicio razonable que justificó la apertura de diligencias, especialmente si el algoritmo está sesgado contra el perfil del imputado; (b) la proporcionalidad de las medidas restrictivas adoptadas; y (c) la presunción de inocencia, que no puede operar de forma asimétrica según el perfil predictivo del sospechoso. El Reglamento UE 2024/1689 refuerza este análisis al clasificar varios de estos modelos como de "alto riesgo" y al prohibir ciertos usos basados exclusivamente en perfiles.

Estrategias de Exclusión y Limitación

En el plano procesal ordinario, el objetivo es doble: excluir o limitar. Si el indicio razonable que abrió la investigación era producto de un sesgo algorítmico acreditado, cabe instar la nulidad de actuaciones y, por conexión de antijuridicidad, la de las diligencias derivadas (registros, intervenciones) conforme al artículo 11.1 LOPJ. Cuando la exclusión total no prospera, se trabaja la limitación del valor convictivo: una pericial técnico-estadística que documente la tasa de error diferenciada por perfil rebaja la fuerza de la prueba. Para blindar la defensa frente a la opacidad propietaria, solicitamos al juzgado el nombramiento de un perito judicial independiente que audite el modelo empleado por la acusación.

Acción Constitucional ante el TC

Cuando el caso lo permite, la vía procesal se complementa con la constitucional. El recurso de amparo es el cauce para denunciar la vulneración de derechos fundamentales —igualdad, presunción de inocencia, tutela judicial efectiva— cuando la práctica algorítmica los ha comprometido, y permite sentar doctrina sobre IA y proceso penal. En paralelo, cuando el funcionamiento anormal de la Administración (incluido el uso de IA sesgada) ha causado un perjuicio acreditable, cabe la reclamación de responsabilidad patrimonial del Estado (Art. 121 CE y Ley 40/2015). En casos relevantes reforzamos la pericial y la argumentación con la colaboración de grupos académicos de inteligencia artificial y derecho.

Licitud de la prueba algorítmica: el filtro del artículo 11.1 LOPJ

El primer combate de la defensa no es sobre lo que el modelo predictivo concluye, sino sobre cómo se obtuvieron los datos que lo alimentan y bajo qué cobertura legal se desplegó la herramienta. El artículo 11.1 de la Ley Orgánica del Poder Judicial es categórico: no surtirán efecto las pruebas obtenidas, directa o indirectamente, violentando los derechos y libertades fundamentales. Esta regla de exclusión no es un tecnicismo, sino la garantía que impide que una predicción construida sobre un acceso ilícito a comunicaciones (artículo 18.3 CE) o a datos personales se convierta en base de una condena. Si el dato de origen es nulo, contamina el resultado que de él se deriva.

En la práctica, esto exige examinar la habilitación judicial de cada injerencia. La interceptación de comunicaciones electrónicas requiere autorización motivada conforme a los artículos 588 bis a y 588 ter a y siguientes de la Ley de Enjuiciamiento Criminal; el acceso al contenido de dispositivos de almacenamiento masivo se rige por el artículo 588 sexies, que impone una resolución específica que no se entiende implícita en la mera incautación del aparato. Cuando un sistema de análisis predictivo se nutre de volcados masivos o de cruces de bases de datos sin amparo en estas normas, la defensa puede sostener que toda la inferencia posterior queda alcanzada por la conexión de antijuridicidad y debe expulsarse del acervo probatorio.

Conviene distinguir el plano de la obtención del plano del tratamiento. Aunque la captura inicial del dato hubiera sido lícita, el procesamiento posterior mediante un modelo opaco puede introducir vicios autónomos: reutilización para una finalidad distinta de la autorizada, ausencia de control judicial sobre el algoritmo o imposibilidad de verificar la cadena que va del dato bruto a la conclusión. Cada uno de estos defectos es un punto de impugnación que el letrado debe articular por separado, sin dar por buena la prueba solo porque proceda de un sistema técnicamente sofisticado.

Presunción de inocencia y prohibición de la decisión automatizada

El artículo 24 de la Constitución consagra el derecho a la presunción de inocencia y a un proceso con todas las garantías, y de ambos se deriva una exigencia que la irrupción de los modelos predictivos vuelve acuciante: nadie puede ser condenado sobre la base de una valoración que el tribunal no ha realizado ni puede explicar. La función de juzgar es indelegable. Un sistema que asigna una puntuación de riesgo o que señala a una persona como probable autor no aporta un hecho probado, sino una correlación estadística; confundir ambas cosas vacía de contenido la valoración judicial y traslada de facto la decisión a un algoritmo que no comparece, no se motiva y no responde.

La carga de la prueba corresponde a la acusación, y ese reparto no se altera porque exista una predicción algorítmica desfavorable. La defensa no tiene que demostrar la inocencia de su cliente frente a una salida del modelo; es la acusación quien debe acreditar, con prueba de cargo válida y suficiente, cada elemento del delito. Cuando una herramienta predictiva opera como atajo probatorio, invierte sutilmente esa carga y crea una presunción de culpabilidad que el artículo 24 CE prohíbe. Detectar y denunciar esa inversión es una tarea central del derecho de defensa.

El sesgo algorítmico añade una dimensión de discriminación que conecta con el artículo 14 CE. Un modelo entrenado sobre datos históricos sesgados reproduce y amplifica esos sesgos, de modo que la aparente objetividad de la cifra encubre un prejuicio estructural. La defensa debe exigir transparencia sobre los datos de entrenamiento, las variables empleadas y las tasas de error diferenciales por grupos, porque una predicción que penaliza sistemáticamente a un colectivo no es prueba neutral, sino la formalización matemática de una discriminación que ningún tribunal puede asumir como base de su convicción.

Cadena de custodia, autenticidad e integridad del dato digital

La fiabilidad de cualquier conclusión predictiva depende de la integridad del dato que la sustenta, y por eso la cadena de custodia digital es un terreno de impugnación de primer orden. A diferencia de la prueba física tradicional, el dato electrónico es alterable sin dejar rastro evidente, por lo que su valor probatorio exige acreditar que lo analizado es idéntico a lo originalmente aprehendido. Esto se documenta mediante valores de resumen criptográfico (hash), copias forenses con bloqueo de escritura y un registro continuo de quién accedió al material, cuándo y con qué finalidad. Cualquier salto o silencio en esa trazabilidad abre la puerta a sostener que la fuente de la predicción no es auténtica ni íntegra.

La autenticidad cobra una relevancia singular ante el contenido sintético. Las imágenes, audios o vídeos generados o manipulados mediante inteligencia artificial pueden ser indistinguibles de los reales a simple vista, de modo que ningún material audiovisual debería ingresar en el acervo probatorio sin un análisis técnico que descarte la manipulación. La defensa puede y debe exigir la pericial que verifique metadatos, coherencia interna del archivo y huellas de generación artificial. Conviene recordar, además, que el tratamiento penal de la imagen sintética presenta perfiles propios: el artículo 197.7 del Código Penal sanciona la difusión de imágenes íntimas reales obtenidas con anuencia y luego divulgadas sin consentimiento, pero su literalidad no cubre con la misma claridad las imágenes íntegramente sintéticas en las que no existe captación real de la víctima, una laguna que obliga a un análisis cuidadoso del encaje típico.

Frente a la prueba digital, el principio rector es que la sofisticación tecnológica no sustituye al rigor procesal. Un informe que presenta un resultado sin explicar la cadena completa que va del soporte incautado hasta la conclusión final es, a efectos de defensa, un informe incompleto. El letrado debe reconstruir esa cadena eslabón a eslabón, identificar dónde se rompe la documentación y traducir cada hueco en una duda razonable sobre la integridad del material, porque sin integridad acreditada no hay prueba fiable, por mucho que el formato del informe aparente solvencia.

Derecho de defensa: pericial contradictoria e impugnación efectiva

El núcleo de la garantía frente a la prueba algorítmica es el derecho a contradecirla en condiciones reales de igualdad. De poco sirve afirmar que la defensa puede impugnar un modelo predictivo si en la práctica no tiene acceso a su lógica interna, a sus datos de entrenamiento ni a sus parámetros. La oposición a la caja negra es un argumento jurídico legítimo: una prueba que no puede examinarse no puede contradecirse, y una prueba que no puede contradecirse no satisface las exigencias del proceso con todas las garantías del artículo 24 CE. La defensa debe solicitar el código, la documentación técnica y la trazabilidad del sistema, y hacer constar formalmente cada negativa de acceso como límite a la contradicción.

La pericial contradictoria es la herramienta procesal idónea para desmontar la apariencia de infalibilidad. Un perito independiente puede evaluar la metodología, exponer las tasas de falsos positivos, identificar variables proxy que encubren factores discriminatorios y demostrar que la salida del modelo depende de decisiones de diseño no neutrales. Es esencial proponer esta pericial en tiempo y forma, articular las preguntas que el contraperito debe responder en el plenario y asegurar que el debate técnico se produzca en condiciones de inmediación y contradicción ante el tribunal que ha de valorar, y no se sustancie en un informe unilateral incorporado sin discusión.

Por último, la impugnación debe ser exhaustiva y escalonada, sin renunciar a ningún plano. Se ataca primero la licitud de la obtención del dato al amparo del artículo 11.1 LOPJ; después la integridad de la cadena de custodia; a continuación la fiabilidad metodológica del modelo y sus sesgos; y, en todo caso, se invoca la presunción de inocencia para recordar que la duda no resuelta favorece al acusado. Esta estrategia por capas evita que un único argumento decaído arrastre a toda la defensa y mantiene viva la exigencia de que sea un juez, y no un sistema automatizado, quien decida sobre la culpabilidad de una persona.