Ilustración artística de una persona usando una interfaz digital. Omicrono
Parece ciencia ficción, pero no lo es: el Reino Unido desarrolla una herramienta para "predecir crímenes" gracias a la IA
El proyecto usará algoritmos que realicen predicciones sobre delincuentes que sean susceptibles de ser reincidentes en sus delitos.
Más nformación: El hombre que fue despedido por un algoritmo y nadie sabía por qué ni cómo evitarlo
Desde la irrupción totalmente inesperada de los sistemas de inteligencia artificial y similares, no han sido pocos los que han intentado aplicar estas tecnologías a la escena criminalista. En 2019, se consiguió capturar a un asesino usando la IA, y en 2024 el FBI pudo detener a miles de delincuentes usando un smartphone encriptado desarrollado por la agencia. Reino Unido aspira a crear un sistema basado en algoritmos para 'predecir asesinatos', que identificaría a los usuarios más susceptibles de cometer esta clase de crímenes.
Tal y como revela The Guardian, el ejecutivo anglosajón estaría desarrollando un programa que basaría su información en datos personales de personas ya registradas por las autoridades, con el objetivo de identificar a los sujetos que más probabilidades tengan de acabar matando. Apodado como "intercambio de datos para mejorar la evaluación de riesgos" sigue en desarrollo, y pretende ser una herramienta de seguridad que sirva para reducir la tasa de crímenes.
La idea no ha sentado demasiado bien en algunos grupos en favor de los derechos civiles, y ya hay internautas que han comparado el sistema con la trama de Minority Report, la famosísima cinta del año 2002 en el que un departamento de policía liderado por Tom Cruise detiene a delincuentes antes de que cometan sus crímenes. Tanto es así, que algunos funcionarios ya han advertido que la idea del Ministerio de Justicia inglés usará algoritmos puramente abstractos, según recoge The Register.
Detectar personas antes de que maten
Todo comenzó como un proyecto interno, denominado como "Proyecto de Predicción de Homicidios". Fue descubierto a través de las solicitudes de transparencia del grupo 'StateWatch', para posteriormente aparecer en algunos medios ingleses de alta tirada. Desde el gobierno de Reino Unido aseguran que este proyecto no es tanto una herramienta única, sino una extensión de los sistemas de predicción de riesgo ya existentes para detectar signos de reincidencia en delincuentes cercanos a ser liberados.
En este sentido, y tal y como informa el grupo Statewatch, el proyecto inicialmente conocido como "proyecto de predicción de homicidios" usaría datos de personas no condenadas por ningún delito, con información personal sobre autolesiones o rastros de violencia doméstica. El Ministerio de Justicia, por su lado, resalta que el sistema "revisará las características de los delincuentes que aumentan el riesgo de cometer homicidio", explorando "técnicas de ciencias de datos alternativas e innovadoras" para llevar a cabo estas evaluaciones.
Ilustración artística de un algoritmo.
Los datos provienen, a su vez, de varias fuentes oficiales, incluyendo datos de la policía inglesa del Gran Manchester, la Policía Metropolitana de Londres o el Ministerio del Interior, además del Servicio de Libertad Condicional. Los algoritmos procesarán nombres, géneros, etnias y fechas de nacimiento. Los usuarios rastreados serán identificados con un número en los ordenadores que gestionen este sistema, mientras que algunos de los datos que se compartirán con el gobierno, denuncia Statwatch.
Esto implica condenas penales, edades (tanto del agresor como de la víctima) o marcadores de salud mental, física, adicciones, suicidios, vulnerabilidades o discapacidades. En definitiva, el sistema usará prácticas de big data para procesar y analizar grandes conjuntos de datos, resultando en algoritmos que puedan detectar personas susceptibles de cometer delitos reincidentes.
Según The Register, los datos predecirán las tasas de reincidencia de estos delincuentes, con resultados provenientes del Sistema de Evaluación de Delincuentes (OASys). Cabe aclarar que esta idea en su estado actual se usará únicamente para investigaciones, indicativo de que sigue en desarrollo.
Así lo asegura el Ministerio de Justicia, que detalla que únicamente se usará con fines de investigación. "Se ha diseñado usando datos existentes del Servicio Penitenciario y de Libertad Condicional de Su Majestad y de las fuerzas policiales sobre delincuentes condenados, para ayudarnos a comprender mejor el riesgo de que las personas en libertad condicional cometan actos de violencia grave".
Algunos grupos, como el propio Statewatch, han denunciado que los datos de la policía y del Ministerio del Interior usados de forma institucional tienen sesgos problemáticos, basados en cuestiones relacionadas con la homofobia y el racismo. Por ende, el modelo usado por el gobierno heredará dichos sesgos, reforzando y magnificando una discriminación que podría llevar a inocentes a la cárcel. Hasta han calificado al sistema de "escalofriante y distópico", denunciando su modus operandi.
En el peor de los escenarios, aseguran estos grupos, estas herramientas automatizadas clasificarán a personas como delincuentes violentos, usando datos sensibles como la salud mental o la discapacidad, dando lugar a falsos positivos que aumenten todavía más estos sesgos estructurales. El Ministerio responsable ya ha afirmado que contribuirá a "proteger al público mediante un mejor análisis".
