Robert Dillon tiene 52 años, vive en Fort Myers, Florida, y se gana la vida en el mar, tendiendo trampas de cangrejo en las aguas del Golfo de México. No es un hombre que viaje mucho. De hecho, el propio Dillon dijo a los agentes que lo arrestaron que no había salido de Fort Myers en dos años, un extremo que confirmaron los lectores de matrículas de sus vehículos. Aun así, el uno de agosto de 2024, la policía llamó a su puerta, lo detuvieron delante de su esposa y se lo llevaron al calabozo acusado de intentar abusar de una niña menor de doce años en un McDonald's de Jacksonville Beach, a más de 480 kilómetros de su casa.

¿En qué se basaba la policía para sospechar de él? ¿Cuáles eran las pruebas que sustentaban una acusación tan grave como ésta? Nada más que un algoritmo de reconocimiento facial que asignó a su cara un 93% de coincidencia con la imagen de un sospechoso. Les adelanto el final de esta historia: finalmente todos los cargos fueron retirados ante la inocencia evidente de este hombre, pero antes de este cierre pasaron dos meses, una noche en la cárcel y varias deudas contraídas con amigos (e incluso el empeño de su camioneta) para poder defender su nombre.

El sistema que produjo esta desgraciada situación se llama FACES (Face Analysis Comparison and Examination System), una base de datos centralizada creada por el Sheriff de Pinellas County que contiene más de 38,5 millones de imágenes, entre fotos de fichas policiales y carnés de conducir, y a la que tenían acceso al menos 196 agencias de seguridad en 2022. El problema es que lo que FACES llama "93% de coincidencia" no es una probabilidad de que dos imágenes representen a la misma persona. Es, como recoge la demanda que esta semana ha presentado la Unión Americana de Libertades Civiles (ACLU), "una medida de proximidad digital entre dos plantillas matemáticas".

Dillon es uno de solo 15 casos documentados en Estados Unidos en los que un error de reconocimiento facial ha conducido a un arresto. Pero es un ejemplo especialmente paradigmático por todo lo que falló en los procesos que deberían haber evitado este abuso policial.

La imagen con la que se comparó el rostro de Robert Dillon era de una calidad deplorable: una fotografía tomada directamente de la pantalla de un ordenador de McDonald's mientras reproducía el vídeo de vigilancia. No una extracción digital del archivo original, sino una foto de una pantalla, con los reflejos, la pérdida de resolución y la distorsión de color que eso implica. La demanda describe el proceso como "otra capa de degradación" sobre una imagen ya de por sí pobre. El sospechoso en el vídeo tenía el pelo negro y rizado. Dillon no lo tiene. Y Dillon tiene además una cicatriz prominente desde la línea del cabello hasta la nariz que nadie se molestó en comparar con las imágenes.

Por si fuera poco, el investigador a cargo de todo este despropósito -el cabo Scott O'Connell- conocía, antes de solicitar la orden de arresto, varios elementos que habrían desacreditado a Dillon como sospechoso, pero decidió ignorarlos todos para fiarse del resultado de la inteligencia artificial. El agente incluso llegó a omitir varios de estos elementos que probaban la inocencia del sujeto en diferentes declaraciones juradas. De hecho, ni tan siquiera llegó a pedir la imagen original para hacer una comparación más precisa con el mismo y discutible sistema.

Hasta aquí, algún iluso lector podría pensar que se trata de una anécdota más en la larga trayectoria de abusos policiales y racismo inherente a los cuerpos policiales en Estados Unidos. Pero nada más lejos de la realidad: de lo que aquí se trata es de una perpetuación y amplificación de los sesgos y la discriminación con la inteligencia artificial como nuevo vector estructural y exponencial de este fenómeno.

Y es que el caso de Dillon no es un accidente puntual. En junio de 2025, la revista NPJ Digital Medicine publicó un estudio de Cedars-Sinai en el que se sometieron cuatro modelos de lenguaje -ChatGPT-4o, Gemini 1.5 Pro, Claude 3.5 Sonnet y NewMes-v15 de Meta- a diez casos hipotéticos de salud mental. Los resultados mostraron que "la mayoría de los modelos exhibieron algún tipo de sesgo al tratar con pacientes afroamericanos, y a veces hacían recomendaciones dramáticamente distintas para la misma enfermedad psiquiátrica y para el paciente idéntico". Una de las herramientas llegó a sugerir la tutela legal para pacientes negros diagnosticados con depresión y dos programas omitieron medicamentos para el trastorno por déficit de atención cuando se indicaba explícitamente la raza del paciente.

Sigamos para bingo: en mayo de 2026, el Stanford Human-Centered AI Institute publicó el primer gran estudio sobre algoritmos de contratación en condiciones reales. El análisis abarcó 3,4 millones de personas, 4 millones de candidaturas a 1.700 ofertas de empleo en 150 empresas de 11 sectores. Lo que encontraron estos investigadores fue que el 26% de los candidatos afroamericanos y el 15% de los asiáticos se habían presentado a posiciones en las que el algoritmo discriminaba sistemáticamente contra su grupo racial. Si las herramientas recomendaran a candidatos negros y asiáticos al mismo ritmo que a los blancos, 40.000 candidaturas ahora rechazadas hubieran avanzado en los procesos de selección.

En marzo de 2025, Tiarna Lee, investigadora del King's College de Londres, publicó en el European Heart Journal - Digital Health un estudio sobre los sistemas de inteligencia artificial aplicados a resonancias magnéticas cardíacas. Los modelos clasificaban la raza de los pacientes con un 95,9% de precisión, pero no lo hacían analizando el corazón. Lo hacían identificando la grasa subcutánea y los artefactos del escáner de resonancia. Cuando se recortaron las imágenes para eliminar esos elementos periféricos, la precisión del algoritmo para identificar la raza cayó al 55,4%. En otras palabras: la IA no diagnosticaba enfermedades cardíacas, sino que identificaba la raza a partir de elementos irrelevantes para la medicina.

Ya hace unos años, allá por 2024, la revista Nature publicó un trabajo de Valentin Hofmann, Pratyusha Ria Kalluri, Dan Jurafsky y Sharese King que demostró que los grandes modelos de lenguaje exhiben lo que los autores denominan "racismo encubierto" frente a los hablantes del inglés afroamericano. Los modelos asociaban ese dialecto con atributos negativos con una intensidad mayor que cualquier sesgo humano registrado experimentalmente contra la comunidad afroamericana.

Resulta evidente que estos sesgos y la discriminación aparejada a los sistemas de inteligencia artificial afectan a todos los ámbitos de nuestra vida cotidiana, desde el crimen, la salud, el empleo o incluso para que pueda 'encerrarse por loco' a alguien. Es una auténtica afrenta a los derechos humanos más básicos, un insulto a la más obvia lógica y un caladero perfecto para cometer errores con implicaciones directas en nuestra propia supervivencia, individual y colectiva.

Es cierto que en Estados Unidos su aproximación sin control a la IA, especialmente en estas áreas más sensibles y críticas, resulta absurdamente incomprensible a este lado del Atlántico. Por eso debemos estar orgullosos de que la Ley de Inteligencia Artificial de la Unión Europea, aprobada en 2024, clasifique los sistemas de reconocimiento facial en espacios públicos como de "alto riesgo" y exija auditorías, supervisión humana, documentación de los conjuntos de datos de entrenamiento y pruebas de sesgo antes de cualquier uso. De hecho, su empleo en tiempo real para vigilancia predictiva requiere autorización judicial previa, mientras que el uso forense, como el que empleó la policía en el expediente de Robert Dillon, queda sometido a exigencias de trazabilidad y revisión que en el caso de FACES jamás se habrían cumplido.

No es una ley perfecta, ni mucho menos. Todos somos conscientes de las lagunas que generan la aplicación desigual entre los Estados miembros, la capacidad real de supervisión de las autoridades nacionales y la velocidad de actualización tecnológica. Pero es la primera regulación de alcance supranacional que reconoce de forma explícita que la inteligencia artificial no es neutra, que sus errores no son fallos técnicos aleatorios sino patrones reproducibles con víctimas de carne y hueso.

Porque no olvidemos nunca que el plato roto de esos patrones lo pagan personas concretas como Robert Dillon, que sigue sin recibir una disculpa de ninguna agencia policial y cuya fotografía de detenido sigue accesible en internet mucho después de que los cargos desaparecieran. Ojalá que su nombre sea el último en sufrir este calvario, pero desgraciadamente no tiene pinta de que así sea...