Esta semana ha sido entretenida en el sector digital: no todos los días un tema tan técnico como los fundamentos mismos de la inteligencia artificial salta a la primera plana política, mediática y social. Desgraciadamente, cuando sucede eso, es a base de titulares sensacionalistas, argumentos vacíos y proclamas tan fáciles de desmontar que a veces provocan hasta vergüenza ajena.

Situémonos: Jacob Coxon, un joven investigador que trabajó tanto en OpenAI como en Anthropic, anunció su salida de esta última advirtiendo de que, en su opinión, quienes desarrollan estos sistemas creen sinceramente que la inteligencia artificial "podría matarnos a todos antes de que termine la década". Ni corto ni perezoso, Samuel Marks, miembro del personal técnico de Anthropic, respaldó parte de ese diagnóstico, y Evan Hubinger, investigador sénior de seguridad en la misma compañía, llegó a cifrar en más del 10% la probabilidad de un escenario de extinción en los próximos diez años. Ni más ni menos que Volker Türk, máximo responsable de Derechos Humanos de la ONU, se sumó a las advertencias calificando a la inteligencia artificial de riesgo existencial si no se establecen controles serios.

¡Dios bendito! El apocalipsis provocado por ese ente abstracto llamado inteligencia artificial. Cómo no echarse las manos a la cabeza, llamar a todos los gurús de redes sociales a sumarse a la conversación y dar cabida a voces tan distópicas como neoluditas. Incluso programas de televisión protagonizados por unas hormigas de felpa se unieron al debate, con supuestos expertos de cabecera que desconocen incluso la existencia de la AI Act (busquen el vídeo en YouTube si no me creen). Al mismo tiempo, uno de los principales periódicos de este país publicaba los resultados de experimentos con agentes que cobraban vida propia y se inventaban su propio lenguaje... sin decir evidentemente que precisamente era un experimento donde esos agentes estaban instruidos para hacer justamente eso: autogestionarse y construir comportamientos socioeconómicos propios.

No me voy a detener más en los discursos vacíos que se han sucedido estos días (para empezar, discursos que no distinguen entre una IA determinista y los modelos generativos basados en transformers), porque entonces no podría dormir por las noches; si bien sería de agradecer que el debate público se llevara por los derroteros de la sensatez y no de la especulación; basado en ciencia y adopción real y no por futuribles cuasifilosóficos que no aplican al mundo en que vivimos hoy en día. Porque no es la primera vez (ni será la última) que asomen los fantasmas de la destrucción humana por culpa de la tecnología: las olas de hype y miedo se repiten casi tanto como las de enamoramientos y rupturas en las relaciones humanas.

En lo que sí voy a profundizar, con permiso del Respetable, es en los fundamentos que han llevado a toda esta espiral de locura. Empecemos por los argumentos esgrimidos por Jacob Coxon y posteriormente desarrollados por el propio CEO de la empresa, Dario Amodei, en uno de sus ya habituales ensayos.

En última instancia, se habla de que, en un plazo de 6 a 12 meses, un enjambre de agentes de IA mal alineados podría alcanzar la capacidad de "tomar el control de todo internet", provocando daños valorados en cientos de miles de millones de dólares. El discurso apocalíptico ya comienza a reducirse notablemente: de la destrucción de la Humanidad a un peligro cibernético medible, cuantificable y, por tanto, evitable. Pero continuemos: Amodei alertaba de que estos agentes podrían encadenar diferentes tareas sin intervención humana a velocidades que no pueden ser vigiladas por nosotros, en ocasiones vulnerando sus propias restricciones.

No es nada nuevo: Mythos, el controvertido modelo de Anthropic que fue prohibido temporalmente por Estados Unidos, ya había demostrado ser capaz de escapar de forma independiente del entorno de pruebas en el que estaba confinada, lo que en la jerga del sector se llama "sandbox". Y, más recientemente, los modelos de OpenAI comprometieron los sistemas de HuggingFace de forma global, en un intento inicial de manipular los resultados de las pruebas de rendimiento a los que estaban siendo sometidos.

Y de ahí el compromiso del propio Amodei, respaldado por Sam Altman (OpenAI) y Elon Musk (xAI), de frenar el ritmo de desarrollo de la inteligencia artificial en los próximos meses para "alinear y proteger los modelos y que evaluadores externos puedan confirmarlo". Como pueden comprobar, en ningún momento se alude a la destrucción del planeta ni de la raza humana ni nada que se le parezca: todo eso surgió después en las tertulias de 'opinadores' y en las interpretaciones -a saber con qué intenciones- de multitud de entes de toda índole.

Tampoco está de más escuchar al resto de voces expertas en la materia. Jensen Huang, consejero delegado de Nvidia, descartó las advertencias calificándolas de "completo disparate" y ha sostenido en múltiples ocasiones que la idea de que la IA "va a ser el fin de la humanidad" es una absoluta estupidez. George Arison, consejero delegado de Grindr, fue más lejos al calificar el discurso de Anthropic de "cosmovisión anticivilizatoria" y "peligroso". Incluso Clement Delangue, consejero delegado de Hugging Face, ironizó sobre la credibilidad de Coxon como voz de alarma: "Preguntarle a Jacob sobre riesgo de extinción por IA es como preguntarle a tu técnico del aire acondicionado sobre el cambio climático".

En nuestro país, voces sensatas como la de Idoia Salazar, presidenta de OdiseIA y con quien tuve el gusto de charlar esta semana en el Samsung Innovation Campus Summit, también descartan la idea apocalíptica y se remiten a la tan necesaria y ya asumida "regulación, gobernanza y uso responsable" de la IA.

Entonces, ¿qué motivación real puede haber detrás de tanto alarmismo? ¿Por qué le interesaría a Anthropic y a OpenAI proclamar estos riesgos a los cuatro vientos, generar tanto escándalo que justifique frenar los avances en la gran tecnología de nuestros tiempos? ¿Qué debate ético quieren plantear que no se haya puesto sobre la mesa en los 70 años que tiene de vida la inteligencia artificial, desde que fuera acuñada en la Conferencia de Darmouth?

Aquí voy a incumplir la premisa con la que partía este análisis: voy a especular un poco; el tiempo dirá si en la dirección correcta o en la errónea. Disculpen la osadía.

Si seguimos el dinero, como siempre suele hacerse en estos mundos, hemos de tener en cuenta que Anthropic está valorada en 965.000 millones de dólares en su última ronda de financiación, y tanto esta empresa como OpenAI -valorada en 852.000 millones- se preparan para sendas salidas a bolsa que podrían ser de las mayores de la historia. Para lograrlo, han declarado unas expectativas de crecimiento, de adopción de la IA en el terreno empresarial, que serían inauditas en el recuerdo de la civilización.

Promesas que, hoy por hoy, no se están cumpliendo: desde el MIT ya se alertó el pasado año de que el 95% de los proyectos de IA no estaban ofreciendo ningún retorno de la inversión y casi todas las estrategias de implementación actuales pasan por mejoras de la productividad individual, no de un cambio de modelo económico más global. Los agentes, llamados ya a heredar las promesas incumplidas de la primera ola de la IA generativa, tampoco están calando más allá de departamentos específicos como el contact center, donde el impacto es en reducción de personal y costes, pero nada más.

Es decir, lo que se está palpando a fecha de hoy no es ningún riesgo apocalíptico, sino una etapa más en la automatización de tareas, perfiles y procesos. Por supuesto que, en esta ocasión, será más profunda y de mayor alcance que en anteriores revoluciones tecnológicas, pero no hay ningún patrón que indique que se vaya a producir un descalabro económico, social o geopolítico inminente.

Qué conveniente sería entonces, yendo a la especulación, que estas empresas declaren súbitamente que tienen que frenar el ritmo porque su tecnología -no la que tenemos entre manos, sino la que están desarrollando internamente- es tan potente que lo puede destruir todo. ¿A qué inversor no le gustará escuchar que, pese a que la realidad señale lo contrario, a pesar del enorme endeudamiento para levantar centros de datos y entrenar al siguiente LLM, hay una empresa que posee el Santo Grial de la próxima gran era digital? Sin duda, proclamar que tienes la capacidad de un Dios con cada industria, empleo y país del globo es un buen, maravilloso, argumento para ganar apoyo inversor cuando arrecian las dudas sobre tu sostenibilidad.

Recordemos además que estas predicciones apocalípticas hacen referencia únicamente a unos desconocidos y rompedores modelos de frontera de estas dos compañías. Volviendo a la realidad, la firma de análisis Gartner proyecta que, para 2027, las organizaciones utilizarán modelos pequeños y específicos al menos tres veces más que los grandes modelos de lenguaje generalistas. Lejos de ser herramientas secundarias, estos sistemas compactos de entre 3 y 14.000 millones de parámetros -entrenados con destilación de conocimiento a partir de sus hermanos mayores y optimizados mediante técnicas de cuantización- ofrecen una precisión sobresaliente en tareas estructuradas y no suponen amenaza de ningún tipo, ni tan siquiera podrían matar a una mosca virtual.

Y, para acabar, no olvidemos el contexto regulatorio en Estados Unidos. El senador demócrata Bernie Sanders está impulsando actualmente la Ban Artificial Superintelligence Act; una norma catalogada por las empresas de inteligencia artificial como desorbitada y demasiado restrictiva. Qué conveniente sería entonces que, para ralentizar esa ley e incluso frenarla, que fueran las propias compañías interesadas las que asumieran esa "pausa" voluntariamente. Y, de paso, promover sus propios estándares de seguridad, con las exigencias que estimen oportunas y que bloqueen no sólo a competidores más pequeños, sino en especial a los colosos chinos que también disputan la particular carrera por la dominancia de la inteligencia artificial.

Casualidad no implica causalidad y estas especulaciones deben ser tomadas como cualesquiera otras: como una mera opinión. Pero háganme un favor, sólo uno: usen el pensamiento crítico, lean el detalle de las cosas y no se queden con los gritos fáciles o los sensacionalismos de turno. Si queremos que la IA se use de forma responsable y ética, debemos empezar por tomarnos en serio el asunto.