La responsabilidad indelegable en la Justic-IA

Vera no podía dejar de dar vueltas en torno a la mesa. La puerta se abriría en nada, y su abogada entraría para llevarle a la sala y contarle qué posibilidades reales tenía de salir con bien de todo este lío. O, al menos, de salir. En algún momento.

Vera había sido identificada por una inteligencia artificial al salir del metro. Maldita la idea que tuvo de salir en Callao. Aunque le hubiera dado igual. Si no, hubiera sido una identificación semafórica, un gimnasio o el fichaje biométrico en la empresa. El problema no era que la hubieran identificado. Era todo lo que había sucedido después.

No había llegado al restaurante en el que había quedado en la calle Desengaño – qué ironía- cuando dos policías vestidos de paisano la detuvieron y la llevaron a la comisaría, acusada nada más y nada menos que de asesinato. Y no de una persona cualquiera. De su jefa.

No podía negar que en momentos de tensión se hubiera librado de ella, pero de ahí a matarla…. Y, sin embargo, contaban con una batería importante de indicios, como las muchas conversaciones grabadas por teléfono con su hermana, en las que el análisis emocional de su tono indicaba una gran agresividad. Además, ella estaba en la oficina el día que la encontraron muerta y no dio la voz de alarma al encontrarla, aunque fue la primera persona que la vio. Sí, eso dijo la científica con su nueva plataforma IA de análisis genómico. La había tocado, maldita imprudencia. Al principio dijeron que hubiera sido un infarto. Y un infarto había sido. Provocado.

Vaya. Qué casualidad. Su hermana tenía una farmacia en Leganitos.

Cuando la interrogaron en relación con su actitud, no supo qué decir. Tenía miedo y eso se convirtió en mentira. Eso dijo su mirada, el mapa biométrico de sus ojos bajos, huidizos. Sus labios prietos, incapaces de pronunciar palabra. Su pie derecho repiqueteando contra el suelo.

Y además tenía un motivo. Dos, en realidad. Se llamaban Quique y Nica. Separada, con su madre a su cargo y una pensión compensatoria inexistente, estaba a punto de no poder hacer frente ni al alquiler. Había solicitado un incremento de sueldo, hacer otras tareas, horas… lo que fuera. Su jefa se lo negaba sistemáticamente, la trataba de vaga, de fracasada. No como su segundo, Jorge, que entendía su situación, ojalá fuera él el director.

El modelo algorítmico lo tenía claro. Era culpable con un 82% de probabilidad.

La puerta crujió en sus goznes dando paso a su abogada. A su mirada suplicante obtuvo un giro de cabeza por respuesta. Estaba perdida. Dos policías entraron y la esposaron para acompañarla a la sala de vistas.

Allí la jueza hojeaba y subrayaba frases en la propuesta de sentencia emitida por OfelIA, por qué siempre la IA era femenina, se preguntó. Tenía una oportunidad, la jueza tenía que creerla, ella no había sido, las pruebas eran solo circunstanciales, pero el Juez siempre podía valorar la suficiencia de indicios aun no habiendo prueba directa en una sentencia condenatoria según jurisprudencia del Tribunal Supremo en la sala de lo penal española.

La Jueza Sepúlveda se quitó las gafas para verla bien. Comenzó el interrogatorio. Podría decir que fue casi hasta amable. Quería saber por qué tenía que pensar que no era culpable. La miró a los ojos, llorosos, temblones, incrédulos, acobardados, hundidos en soledad. Demasiados adjetivos para una IA.

OfelIA lo tenía claro. Pero ella no. No había contradicciones. Había terror, bloqueo absoluto ante una situación que no estaba siendo capaz de digerir. Ganas de huir, sí, pero no del juzgado. De su propia vida. Tras tres horas de comparecencia, la Jueza dictaminó que las pruebas no eran concluyentes y absolvió a Vera. El caso seguía abierto. OfelIA ni se dignó a protestar.

La inteligencia artificial es una realidad de la computación actual en la que modelos algorítmicos son capaces de percibir el entorno adquiriendo sus características más relevantes, procesarlos y asociar comportamientos, contextos y datos según patrones existentes, y concluyen las mejores actuaciones para lograr un objetivo dado. Procesan miríadas de datos en lo que a un humano le costaría una vida.

Las IAs perciben, razonan y aprenden.

Según el reglamento de IA aprobado en marzo de 2024, conocido como la IA Act, nada que pueda causar un daño inaceptable en la seguridad y privacidad de los usuarios ha de ser decidido por una IA, como el caso de tecnologías con capacidad de manipular el comportamiento humano. Además, todas aquellas IAs cuyo resultado entrañe un alto riesgo habrán de estar sujetas a una regulación estricta y ser objeto de auditorías regulares para asegurar su cumplimiento con las normativas establecidas; ejemplo de ello son las conclusiones que extraen sistemas de reconocimiento facial y herramientas de toma de decisiones automatizadas en sectores críticos.

Pero yo voy más allá. Todos los modelos, algoritmos, cálculos e interacciones, de cualquier tipo, no pueden concebirse, diseñarse, implementarse o utilizarse sin la supervisión de un humano. El diseñador ha de ser muy consciente de las fuentes de datos que utiliza una IA, de qué variables y qué ponderación asume el modelo, de cuál es el argumento racional e interactivo y de cómo se dibuja su línea de aprendizaje. Las IAs han de proporcionar a todos los intervinientes, y no solo a los técnicos, trazabilidad suficiente como para conocer cómo se ha detraído una conclusión; ética y responsabilidad para eliminar los sesgos que los humanos trasladamos de forma inconsciente a la modelización, y explicabilidad para conocer el resultado y su impacto.

Trazabilidad, ética y explicabilidad son indispensables para que el humano pueda decidir ante una propuesta de la máquina. La Justic-IA reduce esfuerzos automatizables; nos ayuda en la orientación al ciudadano, en la articulación de espacios de mediación, en la recopilación de jurisprudencia, en la propuesta de borradores de sentencias… Hemos de aprender a convivir con ella, desarrollando y explotando las capacidades que nos permitan centrarnos en lo que podemos aportar valor: la conciencia. La responsabilidad humana. Indelegable, a todas luces.

Vera caminó hacia el metro de Plaza Castilla. Línea azul. Se paró en el acceso de entrada y miró a las cámaras, de frente. Nada sucedió.

OfelIA ya no tenía nada contra ella. Conocía las normas.

Nadie podrá ser juzgado o castigado nuevamente en un proceso penal bajo la jurisdicción del mismo Estado, por un delito por el cual ya haya sido absuelto o condenado por una sentencia firme de conformidad con la ley y el procedimiento penal de dicho Estado.

***Patricia Urbez es directora general de Sector Público en Fujitsu España.