El culebrón de OPEN AI y por qué tiene que ver con la ética de la Inteligencia Artificial
Estas semanas hemos asistido en directo a las tribulaciones internas en OPEN AI: el 17 de noviembre el Consejo de administración destituía por sorpresa a Sam Altman, CEO y cofundador de la empresa, además de su cara reconocible. El Consejo alegó haber perdido la confianza el Altman con motivo en que no era "consistentemente sincero en sus comunicaciones".
Para sustituirle, el Consejo de administración designó transitoriamente a Mira Murati, quien hasta entonces ocupaba el cargo de CTO de la compañía, y a quien consideraron "excepcionalmente calificada para asumir el papel de directora ejecutiva interina" en tanto no se designara a otro/a CEO de forma definitiva. Además, el Consejo removía también de su cargo de Presidente a Greg Brockman, que pasaría a estar bajo la supervisión de la CEO interina y que ante el cambio de puesto decidió renunciar.
Ante esta noticia inesperada, que suponía un evidente cambio de rumbo en la compañía y la desvinculaba de su hasta entonces cara más visible, las respuestas no se hicieron esperar. El principal inversor de OPEN AI -y el proveedor de la capacidad computacional que necesita- es Microsoft. La primera reacción de Microsoft fue tranquilizadora: se apresuraron a declarar que mantendrían su compromiso con la compañía bajo la nueva dirección.
Hasta aquí, se trató de un movimiento sorpresivo del Consejo que dejaba ver trifulcas internas, pero con una línea continuista: un nombramiento interino de la propia CTO "de la casa" y un mensaje de tranquilidad del socio más estratégico.
El trasfondo del conflicto apuntaba a una cuestión de estrategia empresarial relacionada con dónde encontrar el punto de equilibrio entre el mercado y la ética. Esta dicotomía está muy presente en el negocio de la IA, principalmente porque no está regulada y son las propias empresas las que han de poner los límites a los peligros que puedan representar los productos que desarrollan.
En el caso de OPEN AI, este enfrentamiento de ética y negocio está representado en su propia estructura societaria: nació como una fundación sin ánimo de lucro, que es quien designa a los miembros del Consejo que a su vez controla a la empresa, que sí tiene ánimo de lucro.
El despido de Altman era el desenlace de un conflicto entre ambas entidades e ideas: el consejo quería velar por un desarrollo ético, que parecía no concordar con los planes de Altman, al frente del negocio. Respecto de los motivos concretos han surgido especulaciones que hablan de un proyecto de IA muy potente denominado Q*: una IA con una capacidad de cálculo superior que podría resolver problemas matemáticos, cuyo acierto sería objetivable y podría alcanzar un razonamiento humano. También ha habido rumores sobre que Altman pretendía lanzar una startup de chips de inteligencia artificial a espaldas del Consejo, para competir con Nvidia.
Si entendemos el despido de Altman (y Brockman) como un primer asalto ganado por el "bando de la ética" frente al de negocio, los acontecimientos que le sucedieron y el actual estado de las cosas sugieren la lectura contraria.
Tras su primera reacción -que apuntaba a un cambio de rumbo tranquilo y continuista- Microsoft, contraatacó anunciando la contratación de Altman, Brockman y el resto del equipo para liderar un "proyecto de investigación avanzada de la IA". A este movimiento siguió el anuncio del 95% de la plantilla de OPEN AI de su intención de seguir a Altman a Microsoft, dejando a la empresa sin capital humano y sin el know-how que es su activo principal. Este anuncio de la plantilla estaba firmado también por la propia Mira Murati, la CTO designada CEO interina y que sería sustituida por Emmet Shear, cofundador de Twitch y conocido por su postura de prudencia en el desarrollo de la IA, acorde a la del Consejo de OPEN AI.
Detrás de las posiciones de Microsoft y la plantilla está una defensa del desarrollo "agresivo" de la IA, que cabe presumir asociada a intereses económicos: Microsoft es inversor de OPEN AI, y a su vez los empleados de la empresa presumiblemente tendrán stock options cuyo valor depende del de la compañía: una posición conservadora en el desarrollo de la IA que frene el negocio, frenaría también el valor del mismo, y con ello las expectativas económicas de inversores y empleados. Estas expectativas no eran necesariamente compartidas por el anterior consejo, compuesto en su mayoría por miembros independientes sin acciones en la compañía y designado por una entidad sin ánimo de lucro.
Como consecuencia de la crisis abierta y las posiciones de los inversores y la plantilla, OPEN AI no ha tenido más remedio que modificar su postura: ha readmitido a Altman como CEO y ha reorganizado su consejo, prescindiendo de las consejeras independientes Tasha McCauley y Helen Toner, y pasando a una composición en la que no hay ninguna mujer. Sí ha conservado su puesto, no obstante, el cofundador de OPEN AI junto con Altman, Ilya Sutsveker, a quien los rumores sitúan como instigador del despido de su cofundador, pero que a posteriori pidió perdón por su postura y se alineó con la plantilla para pedir su vuelta.
Con el culebrón de OPEN AI, hemos tenido la oportunidad de vivir en directo una guerra de poder que trasciende el enfrentamiento de intereses empresariales para representar la confrontación de dos corrientes de pensamiento alrededor de la IA. El anterior consejo despidió a Altman con la intención de velar por un desarrollo prudente y seguro de la IA, y no obstante el desenlace del conflicto ha reforzado la posición de los que defienden un desarrollo sin límites.
Esta dicotomía está presente en el dilema de regular la IA: hay quien defiende que la regulación es necesaria para proteger a los ciudadanos y garantizar sus derechos fundamentales, la no discriminación y la privacidad, en tanto otros defienden la capacidad de las empresas para autoregularse y establecer unos límites éticos que sean acordes con las leyes que ya tenemos. Entretanto no existe regulación, estaremos atentos a cómo evoluciona OPEN AI y qué tal sale la opción de autorregularse.