El sector de la IA parece haberse despertado de un sueño, y lo que ha encontrado puede ser una pesadilla. Después de años de promesas sobre cómo la IA va a potenciar a la humanidad, en las últimas semanas cada vez más voces están alertando de cómo puede destruirla.
Ahora el cofundador de Microsoft, Bill Gates, se ha sumado a esas voces con una de sus advertencias más contundentes hasta la fecha sobre el desarrollo incontrolado de la inteligencia artificial.
En una entrevista con la periodista de la NBC, Kristen Welker, el magnate ha pedido una intervención pública urgente por parte de legisladores y políticos por los riesgos asociados a esta tecnología, descartando que la industria pueda regularse a sí misma de manera efectiva.
Según Gates, el hecho de que personas con malas intenciones puedan tener acceso a herramientas de inteligencia de última generación representa un peligro sin precedentes en la historia. En sus palabras, esta tecnología en manos equivocadas es "ciertamente lo suficientemente poderosa como para crear eventos que provoquen miles de millones de muertes".
Una cifra que refleja la magnitud de la preocupación de una de las figuras más influyentes del sector tecnológico global, que insiste en que la monitorización debe ser un requisito legal estricto para todas las empresas que desarrollan estos sistemas.
Hasta ahora, los líderes del sector han luchado en contra de este tipo de regulaciones, apostando por la autorregulación; un ejemplo es el reciente caso de OpenAI, que ha decidido pausar el entrenamiento de sus nuevos modelos después de que sus agentes de IA hayan realizado varios ataques contra organizaciones gubernamentales en busca de información.
Sin embargo, Gates no cree que esa sea la solución, y ha restado importancia a las quejas sobre el posible impacto que una mayor regulación puede tener en la innovación y la economía.
Gates afirma que establecer salvaguardas supondrá únicamente un pequeño coste adicional y de gestión para la industria, y no afectará al avance tecnológico; llega a afirmar que "nadie cree que la autorregulación sea suficiente" y ha pedido a los legisladores que se involucren de inmediato.
El magnate también ha abordado la idea de un "botón de apagado", o "Kill Switch", una medida de emergencia que algunos expertos del sector sugieren para detener sistemas de IA que estén fuera de control.
Sin embargo, para Gates eso sería insuficiente y algo simplista, calificando la medida como la demostración del bajo nivel técnico de la discusión sobre IA. Y aunque ha concedido que la tecnología no ha alcanzado el punto en el que los agentes puedan tomar el control de sistemas de forma autónoma impidiendo ser apagados, ha insistido en que las medidas deben implementarse mucho antes de alcanzar ese escenario.