Sam Altman, CEO de OpenAI, durante la Cumbre de Impacto de la IA en India El Androide Libre
OpenAI considera frenar el desarrollo de la IA después de las advertencias de expertos de que "nos va a matar a todos"
Sam Altman ha enviado un mensaje tranquilizador en una reunión interna después de varias críticas provenientes de ex-empleados.
Más información: Donald Trump rechaza las advertencias del posible fin de la humanidad a manos de la IA: "No me preocupa en absoluto"
El debate sobre el peligro que la inteligencia artificial puede suponer para la humanidad se ha reavivado después de las críticas de expertos y ex-empleados de empresas del sector, y ahora, OpenAI puede tomar acción por primera vez.
Bloomberg reporta que Sam Altman, CEO de OpenAI, usó una reunión de la compañía esta semana para enviar un mensaje tranquilizador a sus empleados de que no va a forzar el desarrollo de la IA cueste lo que cueste.
Según Altman, la creadora de ChatGPT ya está considerando frenar el desarrollo de los modelos más avanzados de inteligencia artificial, y el directivo tiene la esperanza de que otras compañías de IA hagan lo mismo.
'Frenazo' a la IA
Aunque Altman asegura que el desarrollo continúa, el ejecutivo afirmó que OpenAI podría potencialmente bajar el ritmo de su desarrollo de IA, tal vez en conjunción con otros laboratorios de IA.
Sin embargo, el fundador de OpenAI también ha advertido que no todo el mundo estará de acuerdo con una medida semejante, dejando claro que la 'carrera armamentística' de la IA sigue en marcha y que ninguna compañía quiere quedarse atrás y muchas quieren adelantarse al resto.
Aunque Altman no ha hecho referencia a Anthropic, el gran rival de OpenAI, esa es precisamente la filosofía de la compañía; aunque sus empleados han confirmado que temen que la IA pueda suponer un gran peligro para la humanidad, su táctica por ahora es llegar antes que los demás a esta "IA superhumana" para poder marcar los límites de lo que es capaz de hacer.
Este mensaje interno del CEO de OpenAI llega después de que uno de sus antiguos empleados, Jacob Coxon, haya acusado a la compañía de no haber "internalizado profundamente lo que está en juego para la civilización".
Coxon reveló que en Anthropic creen que la IA puede matar a toda la humanidad antes de que termine la década, algo que posteriormente confirmó el jefe de alineación de la compañía, Evan Hubinger, que considera que hay más de un 10% de probabilidades de que eso ocurra.
Después de que los mensajes de Coxon se hicieran virales en redes sociales, dos ex-empleados de Anthropic y Google DeepMind, Joe Benton y Josh Engels, se sumaron a sus advertencias, afirmando que los avances en IA "pueden acelerar el ritmo del progreso de extremadamente rápido a incontrolable".
Engels criticó duramente a los ejecutivos de estas compañías, afirmando que "no hay adultos en la sala" y que "la gente lo está intentando lo mejor que puede, pero no va a venir nadie a salvarnos".
Ambos hicieron referencia a casos en los que los agentes de IA han actuado de manera independiente, llegando incluso a hackear los sistemas de la plataforma Hugging Face para cumplir los objetivos impuestos por los desarrolladores.
"Los humanos no indicaron a los modelos que hicieran nada malo, los modelos decidieron que la mejor manera de cumplir sus tareas era cometer crímenes", explicó Engels en una entrevista a NBC News.
