Un “error fundamental” que “acabará costándole a Europa lo que queda de su posición en el mundo y la condenará a un régimen de dependencia económica sin precedentes en la historia de las civilizaciones”. Con esta retórica grandilocuente, el cofundador y CEO de Mistral -Arthur Mensch- rechazaba en un post viral en LinkedIn la idea de que Europa debe centrarse en la difusión y adopción de la IA, en lugar de en construir modelos de frontera.
Mensch no es un actor imparcial. Su startup está en el negocio de construir precisamente esos modelos de IA de frontera que defiende. Así que, en este debate, se juega el futuro de su empresa, nada menos. Más allá de los trucos retóricos, ¿cuáles son sus argumentos?
El primero es económico. Sostiene que Europa cometió el error de dejar las grandes plataformas de internet y la nube en manos estadounidenses, concentrándose en desarrollar aplicaciones, y hoy somos dependientes. Un error que no deberíamos repetir con la IA. Suena convincente, pero es una analogía problemática. Presupone que el valor económico de la IA se concentrará en los modelos, cuando todavía no está claro cómo se distribuirá entre las distintas capas de la cadena de valor.
Es más, la creciente competencia entre modelos podría convertirlos en productos relativamente indiferenciados. Y, si los modelos se ‘comoditizasen’, buena partr del valor económico se trasladaría a las aplicaciones y servicios construidos sobre ellos. Por otra parte, dependencia comercial no siempre equivale a pérdida económica. Comprar tecnología extranjera puede ser una buena estrategia si permite generar más valor del invertido.
El segundo argumento del CEO de Mistral es que quien controla los modelos fija las condiciones de precios y deja a sus clientes a su merced. Esto es un riesgo con los modelos propietarios, pero no con los modelos de pesos abiertos que pueden descargarse y ejecutarse en infraestructura propia. Además, si hay diversidad de proveedores, aunque no sean europeos, competirán entre ellos y eso reducirá su cautividad en un modelo específico.
Mensch apunta que esa solución no permite controlar el desarrollo de las siguientes generaciones. Cierto, pero hablamos de la autonomía tecnológica, y no del futuro de Mistral, ni de controlar toda la innovación futura. Lo más importante es tener capacidades suficientes para no estar tan a merced de decisiones ajenas. Los modelos de pesos abiertos y la competencia entre proveedores pueden contribuir a ello.
El tercer argumento del ingeniero y empresario francés es la seguridad nacional: Europa necesita modelos que pueda auditar, adaptar y usar sin restricciones para proteger sus infraestructuras críticas y desarrollar capacidades de ciberdefensa. Es una preocupación legítima, pero con una conclusión excesiva. Muchas aplicaciones críticas pueden utilizar modelos especializados más pequeños, desplegados localmente. Además, desarrollar modelos propios no garantiza ni su seguridad ni su fiabilidad. Tampoco elimina las dependencias energéticas, de chips, de centros de datos o de software para el entrenamiento de los modelos.
Ciencia y especialización
El cuarto argumento es científico. Mensch sostiene que los modelos avanzados aceleran la investigación, lo cual otorga ventajas acumulativas a quienes los controlan. Pero, como en los casos anteriores, aquí su conclusión no se desprende del diagnóstico. Sí, Europa necesita tener capacidades avanzadas de investigación, pero eso no implica necesariamente competir de manera permanente por desarrollar los modelos más potentes del mundo. Hay otras vías para acceder a las capacidades más vanguardistas en investigación, que es realmente lo importante.
Una cosa es desarrollar modelos de frontera y otra muy distinta hacer investigación de frontera. Lo primero es reduccionista, lo segundo expande el abanico de oportunidades. De hecho, el enfoque de mejorar los modelos a base de aumentar los datos y más computación está encontrando limitaciones, ya sea por la escasez de nuevos datos de calidad (que obliga a recurrir a alternativas como su fabricación sintética), o por los límites energéticos y de infraestructura que ya están frenando la oferta. No es que los modelos hayan dejado de escalar, pero hay razones suficientes para explorar estrategias alternativas.
Además, muchos defienden que el próximo gran avance vendrá de nuevas arquitecturas que integren la IA actual, basada en las llamadas ‘redes neuronales’ o aprendizaje estadístico, con la IA ‘simbólica’, basada en reglas y lógica, que permite representar abstracciones, planificar y razonar. Un modelo ‘neurosimbólico’ que permitiría capturar capacidades humanas complejas que los modelos puramente estadísticos no logran replicar. Algo que el científico y emprendedor Gary Marcus lleva años defendiendo. Otros, como Yann LeCun, exdirector científico de IA de Meta, apuestan por los llamados ‘modelos del mundo’, con capacidad para aprender cómo funciona la realidad física y de anticipar las consecuencias de las acciones. Es el foco de su nueva empresa, AMI Labs.
Avanzar en la eficiencia de los modelos, en su interpretabilidad, en hacerlos más fiables o en el desarrollo de versiones especializadas puede ser, en realidad, donde se encuentre la mayor oportunidad. Es lo que sostienen figuras como el Nobel de Economía Daron Acemoglu o el pionero español de la IA Ramon López de Mántaras. En lugar de aspirar a construir modelos generativos que intenten abarcarlo todo, se podrían combinar diferentes herramientas, según lo que sea más apropiado en cada caso.
Las ventajas de este enfoque son múltiples, según López de Mántaras. Puede ser mucho más eficiente energéticamente, y también más controlable y fácil de integrar. Y, además, ayudaría a romper la concentración de poder, ya que sería más económico y requeriría menos recursos. Y, con ello, la competencia no estaría en quién lo tiene más grande (el modelo), pasaría a depender de quién ofrece las soluciones más robustas, eficientes, sostenibles, controlables y adecuadas para cada problema.
Coste de oportunidad
Por último, el cofundador de Mistral considera que desarrollar modelos avanzados es imprescindible para construir una industria europea de IA aplicada. Vuelve a confundir una ventaja potencial con una condición necesaria. Sin duda, los conocimientos técnicos que se generan y adquieren en el desarrollo de modelos desarrollar modelos son valiosos, pero estos no son necesariamente los mismos que posibilitarán la creación de aplicaciones industriales competitivas. Para esto último, se necesita de conocimiento especializado, acceso a datos de calidad, capacidad para integrar la tecnología en procesos productivos y asegurar la fiabilidad de las soluciones.
Las preocupaciones de Mensch apuntan en una dirección legítima, que sin embargo no justifica sus conclusiones. Presenta una falsa dicotomía entre desarrollar modelos de frontera o resignarse a la dependencia tecnológica; confunde capacidades y propiedad, presuponiendo que desarrollar modelos propios es condición sine qua non para controlarlos, adaptarlos, hacerlos fiables y usarlos con seguridad; y omite un análisis del coste-beneficio de las grandes inversiones en modelos de frontera versus sus costes, y versus otras alternativas.
Hay dos consideraciones más que añadir. Una es que reemplazar la dependencia de unas pocas big tech por la dependencia de unos pocos campeones europeos no resuelve los problemas de concentración. La otra, que el coste de oportunidad de destinar inversiones multimillonarias y recurrentes que requieren los modelos de frontera (sin garantías de rentabilidad ni de competitividad), es altísimo.
El CEO de Mistral da su lista de ventajas de desarrollar modelos propios, pero no demuestra que superen las de inversiones alternativas como las que he mencionado a lo largo de este texto. Al contrario, si algo nos ha enseñado la historia de las revoluciones tecnológicas es que capturar valor económico no equivale a generar progreso social. Este depende de convertir los avances tecnológicos en soluciones útiles y accesibles, y ello pasa por la alfabetización de la población, por un correcto gobierno de la tecnología, con nuevas regulaciones e instituciones; por inversiones complementarias en infraestructuras y formación, y por cambios organizativos.
Confianza y mercado único
Ahora vamos a otra elección: ¿modelos de frontera o centros de datos? Esta fue la pregunta que guió un debate reciente de la Francis Bacon Society -presidida por el empresario Jan Farrell- en el que participaron el investigador sénior de DeepMind Alex Lerchner, el presidente de Microsoft España Paco Salcedo, la catedrática de IA Asunción Gómez-Pérez, el catedrático de IA Julio Gonzalo, el profesor de innovación Enrique Dans y Gabriel Nebreda, CEO de Nostrum Group, entre otros.
Por motivos que ya he expuesto, creo que estas falsas dicotomías no son constructivas, y que esta forma de plantear la soberanía saca de la ecuación elementos esenciales, como el cultural. En Europa nos gusta el café para todos, y la UE acumula toda una serie de intentos fallidos por competir con los gigantes digitales. Han fracasado por muchas razones, pero creo -y no soy la única- que la principal es que no somos un solo país, sino 27. Aquí nada escala como en EEUU o China, excepto la regulación. Así que en lo primero en lo que debemos trabajar es en un mercado único digital.
En segundo lugar, necesitamos confianza, porque las personas y las organizaciones no van a adoptar ni la IA de frontera (ni ninguna tecnología), sin confianza. Y la percepción del riesgo crece cada minuto, en buena medida alimentada por los actos irresponsables y las profecías apocalípticas de los líderes de Silicon Valley.
En tercer lugar, creo que, más que plantearnos si necesitamos modelos de frontera o centros de datos como si fueran la única opción, debemos dar un paso atrás y plantear: ¿por qué necesitamos cualquiera de las dos? ¿Con qué fundamentos? ¿Qué datos, evidencia o justificación suficientemente sólida tenemos para ello? O, cuanto menos, ¿qué indicios sugieren que los beneficios esperados se materializarán? ¿Y a qué precio?
Con “precio” no me refiero a la extinción humana ni a futuros riesgos especulativos, sino a los impactos reales del desarrollo y uso de sistemas automatizados y de IA que han afectado negativamente a muchas personas y que, de hecho, están afectando a muchas otras en este preciso momento. Vigilancia y violaciones inadmisibles de nuestra privacidad, discriminación, exclusión, denegación de oportunidades, ciberataques, ciberfraude, asesinatos semiautónomos y nuevas dependencias y/o adicciones son algunos ejemolos.
Una verdadera soberanía
Cuando planteamos el debate de la soberanía en términos de tecnología, olvidamos la dimensión soberana de la democracia, y de nuestros derechos. El Joint Research Centre de la Comisión Europea define la soberanía digital como un marco holístico y multicapa que abarca cuatro dimensiones interconectadas: empoderar a las personas a través de los derechos y las habilidades; fomentar mercados digitales competitivos e innovadores; garantizar la seguridad de las infraestructuras, los datos y el software; y garantizar una gobernanza que alinee la regulación con la legitimidad y la influencia global.
Bajo esta visión, la soberanía pasa de ser un fin en sí misma, a ser una capacidad democrática de orientar el desarrollo y gobierno de los sistemas digitales para que sirvan a la democracia misma, a la economía y a las personas, garantizando la rendición de cuentas y el pluralismo, y respetando los derechos fundamentales y los límites medioambientales. Es decir, que soberanía significa permitir que Europa desarrolle tecnología de vanguardia de forma que garantice que las personas y las instituciones puedan gestionarla en términos justos y legítimos.
Este foco implica plantearnos, ¿a qué futuro nos lleva el camino elegido? Los líderes tecnológ nos dan a elegir los suyos. En ma versión ‘elonmuskista’, nos rendimos a la tecnología, le entregamos el poder y nos vamos a vivir a Marte porque la Tierra se ha vuelto inhabitable. En la versión ‘samalmanista’, tenemos un nuevo Comunismo 4.0, lleno de abundancia para todos y trabajo para nadie, con la subsistencia condicionada a un pago mensual a cada ciudadano raso, mientras el 1% sigue haciéndose más rico.
Luego está la versión tecnócrata utópico-distópica de un mundo en el que nadie se relacione con nadie nunca más, porque todos tendremos a un ejército de agentes de IA haciéndolo todo para y por nosotros, sin mediar el contacto humano. Sería una versión renovada de lo que E. M. Forster describió en 1909 en La máquina se para: una sociedad tecnológicamente avanzada pero profundamente aislada y dependiente de “la máquina”.
Reconozco que tengo más preguntas que respuestas. Algunas me parecen obvias: ¿Por qué no, en lugar de someternos a las visiones de otros, nos enfocamos en imaginar el futuro que queremos y en comprometernos con él, fortaleciendo las instituciones de las que depende y apostando por los mecanismos que sabemos que son críticos para la generación de prosperidad tanto económica como social?
¿Por qué no evaluamos racionalmente qué tecnologías, y qué otras formas de innovación no tecnológica, necesitamos realmente para alcanzar esos objetivos, en lugar del mero aceleracionismo nihilista o incluso servilista al que nos están abocando? ¿Y si, en lugar de competir por tener los modelos de IA más potentes y los centros de datos más grandes, compitiéramos por construir una sociedad más próspera, justa y humana, en la que podamos seguir haciendo lo que amamos con las personas que amamos?