Hace unos días estuve en Turquía por trabajo, fue gratificante y preocupante conocer de primera mano cómo este gran país que está entre Europa y Asia está utilizando modelos de IA de Open Source e hiperescalares de oriente y occidente al mismo tiempo.
Es interesante ver la creciente cantidad de modelos de IA asiáticos que están apareciendo para competir con el oligopolio de algunas empresas estadounidenses como Anthropic, Google y OpenAI. Del mismo modo que es enriquecedor ver que cada vez hay más interés en hacer correr dichos modelos en entornos de IA privada, controlados por las empresas usuarias.
Por otro lado, he visto una entrevista que le realizó Zanny Minton Beddoes, editora en jefe de The Economist, a Elon Musk. Supongo que el Sr Musk no necesita presentación, él es una nueva demostración de que la frontera entre la genialidad y la locura es muy delgada. En su línea habitual, no dejó indiferente a nadie y lanzó mensajes provocadores como que la IA superará la inteligencia colectiva humana en unos cinco años; donde los humanos comparativamente tendremos la inteligencia de los chimpancés y la IA la nuestra.
En su entrevista también afirmó que en unos diez años el dinero no importará, porque la finalidad del dinero es permitirnos comprar bienes y servicios, algo que será totalmente innecesario porque en 2036 viviremos una etapa de abundancia increíble donde cualquiera podrá obtener casi cualquier cosa que imagine. Su idea parte del principio de que los robots producirán más bienes y servicios de los que cualquier humano podría consumir. La gente trabajará solo como hobby, igual que quien cultiva tomates o judías en casa por gusto.
Como era de esperar, la Sra Beddoes inteligentemente le preguntó cómo encaja esa visión en el mundo real; así como por el efecto que tendría la abundancia en la inflación, la creación de un desempleo mayúsculo y cómo ganarán dinero sus empresas (Tesla, SpaceX, xAI…). Musk evitó dar respuestas concretas a estos temas, la entrevistadora insistió en los detalles, pero no consiguió respuestas totalmente claras… puede imaginar por qué.
Y repasando temas de actualidad sobre la IA, no puedo dejar de mencionar el ataque que sufrió Hugging Face por parte de dos modelos de OpenAI que escaparon de un entorno de pruebas y explotaron una vulnerabilidad para robar respuestas del benchmark ExploitGym. Por suerte, Hugging Face alertó al FBI del inusual ataque, logró investigarlo y contenerlo usando un modelo abierto, de open source.
Entiendo que este último párrafo pueda sonar muy loco para alguien que no trabaja en tecnología y que la cosa no mejora si explico que Hugging Face es una plataforma central de la comunidad de IA donde se comparten modelos, datasets y aplicaciones, y ExploitGym es un benchmark avanzado que evalúa si una IA puede convertir vulnerabilidades reales en exploits funcionales.
No tengo las respuestas a todas las alarmantes preguntas que pasan por mi cabeza humana. Pero mi mensaje es que tenemos las vacaciones para pensar sobre el futuro que estamos construyendo con la IA y la robótica; sobre cómo podemos controlar a los agentes autónomos y la seguridad en la era de la IA; sobre qué sabemos y qué no sabemos de este puñado de empresas que dominan estas tecnologías, sobre el ecosistema chino de IA abierta y de ciberseguridad ofensiva/defensiva; sobre si el open source es menos seguro o si es más difícil de proteger hoy en ciertos contextos porque la IA está acelerando la explotación de vulnerabilidades públicas… ¡menudo veranito nos espera!
