Altos mandatarios de la Comisión Europea y del gobierno estadounidense se reunieron en Suecia con representantes de la industria, la Academia y la sociedad civil en el IV Encuentro del Consejo de Comercio y Tecnología UE-EEUU (TTC). El objetivo era discutir dos áreas “prioritarias” para este foro: la transición verde y los grandes modelos fundacionales de inteligencia artificial (lo que conocemos como IA generativa).

Entre los presentes estaban los vicepresidentes de la CE Margrethe Vestager -comisaria de Competencia- y Valdis Dombrovskis, comisario del Euro y de Diálogo Social; el secretario de Estado de EEUU, Antony Blinken; el presidente de Microsoft, Brad Smith y la española Gemma Galdon, fundadora y CEO de Eticas, moderados por Johan Forssell, ministro de Cooperación Internacional para el Desarrollo de Suecia, y Andrea Renda, directivo del Centro de Estudios de Política Europea (CEPS).

En un foro cuya misión era impulsar la cooperación transatlántica para facilitar el comercio y desarrollar normas globales en materia de tecnología y seguridad, había muchas cuestiones que abordar en torno a la IA generativa. ¿Es algo realmente nuevo en términos de oportunidades y riesgos? Si lo es, ¿qué pueden hacer los legisladores y la industria al respecto? ¿Qué pueden hacer la UE y EEUU para promover tanto su liderazgo tecnológico como la prevalencia de los valores compartidos?

[Análisis: Regular la IA para ser un superpoder tecnológico]

Vestager destacó el acuerdo en torno a la que será la primera iniciativa del TTC al respecto: un código de conducta de inteligencia artificial al que tratarán de sumar a otros países (incluidos los miembros del G7, además de otros como India e Indonesia), y al que las empresas podrán adscribirse voluntariamente. La idea es que sirva como puente para “mantenernos a todos a salvo de los riesgos de esta tecnología y permitir el mejor uso posible de la IA” hasta que haya legislación en vigor para ello.

En la misma línea, Blinken aseguró que “hay consenso en el TTC de que debemos desarrollar, al menos inicialmente y con cierta urgencia, algún tipo de código de conducta voluntario para abordar los problemas que tenemos, hasta que los gobiernos y otras instituciones puedan legislar y regular de manera efectiva”. “Tiene que hacerse de una manera amplia y abierta, y no un club cerrado, porque hay muchas partes interesadas que deben participar”, ha añadido.

No está claro en qué diferirá esta laxa aproximación de otros intentos no vinculantes como la recomendación sobre la ética de la inteligencia artificial de la UNESCO, un acuerdo global adoptado por unanimidad por los 193 Estados Miembros de la organización. UNESCO hizo recientemente una llamada a los países a implementar su marco normativo “de inmediato”. Según la organización, en torno a 40 de las naciones que firmaron están trabajando en ello. Otras fuentes del sector hablan de menos de una treintena.

Cinturones de seguridad para la IA

El presidente de Microsoft abrazó la idea de un acuerdo potencialmente global de adhesión voluntaria. En enero de este año, la empresa realizó una inversión multimillonaria en OpenAI - creadora de ChatGPT y Dall-E, entre otros modelos de IA generativa- por lo que el gigante tecnológico tiene mucho en juego, como vimos también hace unas semanas en la comparecencia en el Senado estadounidense de Sam Altman, CEO de OpenAI.

Smith aseguró que cree, y espera, que la innovación pueda progresar a un ritmo saludable. También propuso aprender de ejemplos como el de la industria de la aviación comercial y sus avances en estándares de seguridad a nivel internacional. El directivo insistió en que es imprescindible que haya coordinación internacional en materia de regulación y estándares tecnológicos.

Un instante del IV Encuentro del Consejo de Comercio y Tecnología UE-EEUU (TTC).

Por su parte, la española Galdon, pionera en la auditoría algorítmica, aseguró que está convencida de que la auditoría será la principal herramienta para comprender, cuantificar y mitigar los daños de la IA. El objetivo: maximizar las posibilidades de la tecnología, teniendo en cuenta los derechos fundamentales y los valores sociales.

La fundadora de Eticas explicó que lo más complejo para las organizaciones que se enfrentan a nuevas regulaciones, como en su momento el Reglamento General de Protección de Datos (RGPD) o próximamente la Ley de IA, es la última milla de cumplimiento: “A diferencia de otras industrias, el impacto de estos sistemas de IA es contextual, frente a unos principios, leyes y estándares que son generales”, aseguró Galdon.

Su respuesta para solucionar ese problema fue la auditoría algorítmica: “una pieza dinámica de inspección que puede permitirnos asegurar la comprensión y aplicación de los principios, leyes y normas que procedan en cada caso”. Cree que pronto nos parecerá increíble que hubiera un tiempo en el que se lanzaban sistemas de IA sin auditorías, igual que ahora nos lo parecería que los coches no tuvieran cinturón de seguridad o que en las farmacias se pudiera comprar cocaína.

En relación con ChatGPT, a Galdon le preocupa el coste de oportunidad de las narrativas de la ciencia ficción sobre el futuro distópico de la IA. “¿Qué pasa con su impacto actual? ¿Cómo protegemos a las personas hoy?”, señaló. Apunta a sus daños tanto individuales como sociales, y cree contraproducente el enfoque de la Ley de IA en casos de uso en lugar de en la tecnología, ya que el mismo caso de uso puede implicar muchas tecnologías diferentes.

Por último, la experta rogó al TTC “que empiece a escuchar el consenso emergente y global en cuanto a los incentivos y obligaciones de auditar la IA”. “Ya tenemos herramientas sobre la mesa que pueden ayudarnos a proteger -ahora, hoy, mañana- a la generación actual, que está sufriendo los impactos negativos de algunos de estos nuevos desarrollos tecnológicos”, sentenció.

Otros ponentes como Dario Amodei, fundador y CEO de Anthropic, y Alexandra Reeve Gevens, presidenta y CEO del Centre for Democracy and Technology, hicieron un repaso de las áreas en las que la IA generativa está teniendo ya un impacto negativo, provocando daños profesionales, reputacionales e incluso físicos; como arma de extorsión, de estafas personalizadas y de desinformación; con falsificaciones hiperrealistas de cualquier persona, y con amenazas contra la ciberseguridad, la seguridad nacional y el orden público, entre otras.

Reeve Gevens enfatizó, además, la importancia de no olvidar el impacto de otros tipos de IA no generativa. Por su parte, el cofundador de Aleph Alpha -considerada la competidora europea de OpenAI- aseguró que el potencial de la IA generativa es enorme. “Construirá el mundo en el que vivirán nuestros hijos” -dijo- por lo que “la responsabilidad que tenemos no es solo económica, sino que abarca todos los sectores de la sociedad”.

Transición verde

El codirector de AI Sweeden Daniel Gillblad destacó que los nuevos modelos de IA “son un nuevo tipo de infraestructura” en torno a la cual empiezan a emerger nuevos artefactos “sin necesidad de demasiados recursos”, algo cuestionable desde el punto de vista medioambiental, dado el elevado consumo energético de la IA generativa.

Del consumo energético se habló también en la otra sesión del encuentro del TTC, centrada en cómo facilitar la transición verde. Marjorie Chorlins, vicepresidenta sénior para Europa de la Cámara de Comercio de EEUU, alabó las ventajas de ahorro de emisiones del telebrabajo, y aseguró que buena parte de la energía de la computación en nube se obtiene de fuentes renovables.

Chorlins también señaló el “vínculo inherente entre la transición verde y la transición digital”, que son “los pilares gemelos que impulsan la agenda del TTC”. Aseguró que “todo el progreso hacia la transición verde se verá socavado si no son capaces de finalizar e implementar un marco de privacidad de datos entre la UE y EEUU”, un asunto espinoso en el que ambas partes llevan años tratando de alcanzar un acuerdo.

En lo que sí hubo acuerdo ayer entre los participantes en la sesión sobre transformación ecológica es en la voluntad de conformar un mercado transatlántico verde. El alegato más vehemente fue el de Ann Mettler, vicepresidenta de Breakthrough Energy en Europa: “Los costes de mercados fragmentados, subsidios duplicados y regímenes regulatorios divergentes son demasiado altos en un momento de tanta volatilidad y competencia sistémica. No podemos permitirnos repetir los problemas de la revolución digital, en la que Europa y EEUU tomaron caminos separados y aún están tratando de resolver sus diferencias”, aseguró, en referencia también al marco de privacidad de datos.

“Las tecnologías de vanguardia y las proezas de la innovación ya no son solo una cuestión económica o comercial: son geopolítica, seguridad y soberanía estratégica”, proseguía Metter. La directiva sostiene que ser líder en innovación en tecnologías limpias significa abordar la crisis climática, pero también reforzar la resiliencia energética y aumentar la competitividad “en un momento en el que no podría haber más en juego”.

En esta línea, el vicepresidente Dombrovskis subrayó la importancia de cuestiones como las dependencias estratégicas, y cómo asegurar cadenas de suministro resilientes. “Una respuesta para la resiliencia es la diversificación, lo cual nos lleva de vuelta a la idea de un mercado verde transatlántico, pero también a un compromiso más amplio con socios fiables en todo el mundo”, afirmó.

Otro tema recurrente en el panel fue la necesidad de más inversión e incentivos a la innovación en tecnologías limpias, a la vez que compromiso. “Desarrollar nuevas soluciones, como las baterías de estado sólido del futuro, tecnologías de captura de carbono y combustibles limpios alternativos, requiere de todo un ecosistema de apoyo” subrayó Blinken.

“Más allá de los recursos financieros o los subsidios que puedan surgir, crear la base industrial tecnológica en ambos lados del Atlántico requiere que todos nos comprometamos a hacer más, y especialmente que nos escuchemos unos a otros para hacer los ajustes necesarios”, añadió el secretario de Estado de EEUU.

Blinken aseguró que los innovadores y los inversores son “nuestro activo más importante” (...) “quienes realmente impulsarán todo este progreso”. Sostiene que los gobiernos tienen que tratar de facilitar y catalizar su trabajo, “al tiempo que establecen los estándares y salvaguardas necesarios”.