La dimisión de Jacob Coxon, investigador de Anthropic, tras alertar sobre los riesgos asociados al desarrollo de la inteligencia artificial ha vuelto a poner sobre la mesa una pregunta incómoda: ¿podríamos llegar a perder el control sobre sistemas cada vez más capaces?

A día de hoy, considero muy improbable que la IA represente una amenaza existencial para la humanidad. Y, sinceramente, me preocupa menos nuestra capacidad técnica para controlar la IA que nuestra capacidad colectiva para ponernos de acuerdo sobre sus límites mientras empresas y países compiten por llegar primero.

La IA puede generar amenazas en diferentes ámbitos de nuestra vida, pero la misma tecnología que sirve para atacar puede utilizarse para defendernos: detectar vulnerabilidades, identificar comportamientos anómalos o reaccionar ante ataques mucho más rápidamente. El problema aparece cuando damos a los sistemas capacidad para actuar de forma autónoma sin suficientes límites. Cuanto mayor sea su autonomía, mayores deben ser los mecanismos de supervisión y control.

Técnicamente estamos preparados para hacerlo. Al final, esta tecnología la diseñamos, entrenamos y desplegamos nosotros mismos. El problema no es tanto técnico como de gobernanza.

No existe un sistema global que evalúe de forma homogénea estos riesgos. Cada país tiene sus propias reglas, pero también sus intereses económicos y geopolíticos. Y aquí está, a mi juicio, el verdadero peligro: que la competición por liderar la carrera de la IA lleve a algunos a asumir riesgos que otros no aceptarían.

Por eso el caso Anthropic me parece relevante. No porque demuestre que una catástrofe sea inevitable, sino porque evidencia una decisión que vamos a tener que afrontar: ¿qué hacemos cuando sabemos que existen riesgos, pero reducirlos puede significar avanzar más despacio que nuestros competidores? La ética de la IA se juega también ahí, cuando actuar con prudencia tiene un coste.

Además, mientras debatimos sobre amenazas futuras, podemos estar minusvalorando impactos que ya tenemos delante. Uno de los riesgos que más me preocupa es que acabemos delegando en la IA no solo tareas, sino también nuestra capacidad de pensar y crear.

Muchas veces se recomienda utilizarla para generar un primer borrador. Yo creo justo lo contrario. El esqueleto, la idea, la estructura y el razonamiento deberían salir de nuestro conocimiento y nuestra creatividad. Después, la IA puede ayudarnos a pulirlo, ordenarlo o ampliarlo, pero no debería sustituir el origen de la idea.

A ello se añade un efecto del que hablamos mucho menos. La World Wide Web ha sido el mayor repositorio de conocimiento creado por seres humanos. Si una gran parte de su contenido se genera automáticamente, podemos acabar convirtiéndola en una especie de “lago turbio”, donde cada vez sea más difícil distinguir qué procede del conocimiento, la experiencia y la creatividad humana y qué ha sido generado o reformulado por máquinas.

Con todo, sería un error leer esto como un argumento contra la IA. Pienso justo lo contrario. Tiene el potencial de ser una de las mayores oportunidades de nuestra sociedad. Su capacidad para acelerar la ciencia, ayudarnos a resolver problemas complejos o ampliar nuestras propias capacidades apenas empieza a vislumbrarse.

Precisamente por eso creo que tenemos que exigirnos más. El impacto de la IA dependerá de quién la desarrolle, con qué propósito y bajo qué reglas. Europa ya ha decidido que determinados usos son inaceptables; otros países han optado por marcos mucho más laxos.

No necesitamos elegir entre innovación y responsabilidad. Necesitamos conseguir que la segunda no llegue siempre después de la primera.

Porque quizá el verdadero riesgo no sea que un día la IA decida cruzar nuestros límites, sino que la competición nos lleve a cruzarlos nosotros antes.

*** Ana Freire es docente e investigadora en la UPF Barcelona School of Management