La alerta del juez Manuel Marchena sobre la justicia robótica: 'No se puede esperar una decisión justa'

Marchena recibió la medalla 63 -sólo hay 120- de esta Academia cuyo origen se remonta a 1845 y cuyo fin es contribuir a la difusión de la cultura y defender la dignificación del título de doctor, tanto en las exigencias para su obtención como en su ejercicio.

Durante la solemne ceremonia, celebrada el pasado 26 de octubre y a la que asistió el presidente del Tribunal Constitucional, Pedro González-Trevijano, y el presidente en funciones del Tribunal Supremo, Francisco Marín, Marchena leyó su discurso de ingreso, dedicado a la Inteligencia artificial y la jurisdicción penal. Le contestó en nombre de la corporación el exmagistrado del TC Jorge Rodríguez-Zapata.

[El juez Manuel Marchena: "España es el país menos condenado por el Tribunal de Derechos Humanos"]

Marchena desbrozó las utilidades que la inteligencia artificial proporciona en la investigación de los delitos y se refirió al diseño de modelos algorítmicos puestos al servicio de la acusación penal, como el desarrollado en China para presentar escritos de acusación por parte de los fiscales y que arroja un índice de aciertos del 97%.

Se trata de un programa de inteligencia artificial capaz de evaluar la solidez de las pruebas, las condiciones para una detención y el grado de peligrosidad de un sospechoso. 

"Cuando el índice de corrección de los escritos del fiscal se sitúa en un 97%", señaló, "la pregunta surge por sí sola: ¿para qué es necesario el juicio oral? Si el desenlace jurídico al delito imputado ya está certeramente calificado por la inteligencia artificial al servicio del Ministerio Público, bastará convertir esa calificación provisional en la sentencia definitiva".

Esa afirmación "estremece la sensibilidad de cualquier jurista" y "nos obliga a un análisis más profundo y detenido, capaz de descartar un horizonte al que, con un sobredimensionado optimismo, algunos pretenden conducirnos", dijo el magistrado.

A su juicio, "la tentación de convertir en solución final lo que hoy sólo es una propuesta provisional del fiscal, sujeta en su confirmación o desmentido a la actividad probatoria de las partes, será reforzada por poderes públicos que siempre preferirán la previsibilidad del robot a la heurística jurisdiccional. Es previsible que la progresiva confianza en el algoritmo que nunca falla, en la exactitud matemática de un desenlace refuerce el culto social a una forma de administrar justicia cuyas nefastas consecuencias son, hoy por hoy, difíciles de prever".

Marchena, durante la lectura de su discurso de ingreso./ Rade

Según Marchena, la superioridad de la inteligencia artificial "es una superioridad de cálculo, una ventaja frente a los límites cognitivos de la inteligencia humana, pero no puede ser concebida como un instrumento con capacidad para desplazar al razonamiento humano en el ejercicio individualizado del ius puniendi [derecho sancionador del Estado]".

"Una justicia robotizada alentaría la esperanza de ofrecer soluciones a conflictos jurídicos en menor tiempo y con más alto grado de previsibilidad", admitió. Pero "¿puede un robot ser imparcial? ¿cómo se articularía -si es ello posible- la responsabilidad de la máquina? ¿quién controla al programador que selecciona la información que convierte en inteligente la respuesta computacional? ¿el juez-robot es inmune a los sesgos cognitivos, de tanta influencia en la respuesta jurisdiccional ofrecida por el juez-persona?", preguntó

A diferencia de lo que ocurre con el juez-persona, que con una adecuada formación puede conseguir superar sus prejuicios, "la máquina es incapaz de escapar a los mandatos de sus propios algoritmos", subrayó, recordando que se ha demostrado que en la propia configuración de los algoritmos también se introducen sesgos. 

"Una decisión robótica exclusivamente basada en el enlace argumental entre el precepto penal aplicable y la jurisprudencia que lo ha interpretado ofrece una imagen estática, casi petrificada, de precedentes que, estoy seguro, no siempre conducirían a una decisión justa. La fosilización de las decisiones sería el efecto inmediato de esta forma automatizada de concebir la decisión jurisdiccional", aseguró.

Para el magistrado, "existe un amplio terreno que transitar entre el cómodo recurso a la sentencia entendida como un corta-pega -en la que la fundamentación jurídica se nutre esencialmente de precedentes ofrecidos por herramientas de inteligencia artificial- y la abdicación judicial del deber de motivar a favor de la máquina".

Una función humana

En una defensa de la justicia impartida por las personas, el presidente de la Sala Penal sostuvo que "del juez robot no puede esperarse la decisión 'justa', sino la decisión 'exacta'".

"Decidir no es lo mismo que ejecutar programas", abundó. "No podemos conformarnos con un jurista convertido en 'servidor', en personal de apoyo de la máquina. La automatización del derecho va a necesitar de este tipo de profesionales. Pero no merece el nombre de jurista el que es sólo un técnico de mantenimiento. Un jurista es un intelectual del derecho, y no sólo un 'operador jurídico'".

"La función de juzgar, sin perjuicio de los avances de la tecnología y de la labor instrumental que ofrece la inteligencia artificial, es una función genuinamente humana", subrayó.

Alertó, además, de la afectación que una justicia robotizada tendrá en los derechos fundamentales, entre ellos el derecho de defensa.

Explicó que la ausencia de transparencia de los algoritmos es "una quiebra indiscutible" del derecho de defensa, ya que la falta de conocimiento sobre los parámetros que conforman el algoritmo "impedirán que alguien pueda defenderse de una conclusión que no puede conocer en sus fundamentos".

"Me cuesta aceptar que la inteligencia para hacer efectiva la vigencia de la justicia como valor constitucional (artículo 1 de la Constitución Española) tenga que etiquetarse como inteligencia artificial. A mi juicio, la inteligencia humana estará siempre en mejor condición para captar el significado axiológico del valor justicia que abre el texto constitucional", defendió.

Para el jurista, la valoración de las pruebas y la exteriorización del proceso motivacional de la decisión "ha de seguir siendo una labor genuinamente jurisdiccional" a cargo de personas.

Actualización

"Todo está cambiando a pasos agigantados y estoy convencido de que en ese imparable proceso rupturista no caben las actitudes de resistencia. El jurista no va a poder permitirse la terca fidelidad a la metodología de la que ha venido valiéndose desde el inicio de su profesión. Hoy más que nunca, la adaptación a las nuevas tecnologías va a ser la única actitud posible", sostuvo Marchena.

A su parecer, el debate ya no es entre vanguardistas y conservadores, "entre los partidarios de la pluma estilográfica o del algoritmo", describió.

"Quien no se adapte corre el riesgo de condenarse a su propia irrelevancia. Los juristas estamos llamados a hacer un esfuerzo para que la justicia, sin dejar de ser una tarea genuinamente humana y sin apartarse de los principios que legitiman la función jurisdiccional, abra su espacio a instrumentos tecnológicos que complementarán de forma admirable la difícil tarea de enjuiciar", propugnó.

"Pero no olvidemos que la función constitucional de los jueces es algo más que el dictado de sentencias. Un Poder Judicial que, por la comodidad que ofrece la máquina inteligente abdicara a favor del algoritmo la irrenunciable tarea de dar a cada uno lo suyo, contribuiría a dinamitar el difícil equilibrio de los poderes del Estado. Los jueces no pueden ser sustituidos por los programadores. Identificar la tarea de juzgar con la de programar puede representar, en poco tiempo, el deterioro irreversible de las bases de nuestro sistema constitucional", advirtió.