Al igual que cualquier actividad humana, el avance de la ciencia no es ajeno a las situaciones sociales, políticas, económicas, religiosas y culturales en que se desarrolla. Y mucho menos aún lo es la tecnología, estrechamente relacionada con todo lo social.

No quiero decir con esto, como sostiene una escuela sociológico-filosófica (constructivismo social), que el conocimiento que surge de la investigación científica, las leyes de la naturaleza que descubre, sean "construcciones sociales", y que no existan verdades objetivas (leyes) en el conocimiento que proporciona.

Un ejemplo temprano relacionado con semejante punto de vista, aunque no exactamente igual, se encuentra en la comunicación "Las raíces sociales y económicas de los Principia de Newton", que el físico, filósofo e historiador de la ciencia ruso Boris Hessen (1893-1936) presentó en el Segundo Congreso Internacional de Historia de la Ciencia que se celebró en Londres en 1932.

Durante su conferencia, Hessen, que formaba parte de una amplia delegación soviética que se esforzó por defender la filosofía marxista, sostuvo que su tarea consistiría "en aplicar el método del materialismo dialéctico y la concepción de este proceso histórico que Marx creó a un análisis y desarrollo del trabajo de Newton [su gran libro de 1687, Principios matemáticos de la filosofía natural] en relación con el período en el que vivió y trabajó".

No está de más recordar en este punto que, a pesar de su lealtad con el marxismo, que llegara a ocupar una cátedra de Física de la Universidad Estatal de Moscú y que fuera elegido miembro de la poderosa Academia de Ciencias, Hessen terminó siendo acusado de ser un contrarrevolucionario, siendo juzgado y condenado a muerte, sentencia que fue rápidamente ejecutada. Un destino que también padeció dos años después quien encabezó la delegación soviética al congreso londinense, un personaje mucho más importante que Hessen en el sistema soviético, el político, economista, filósofo y destacado revolucionario Nikolái Bujarin (1888-1938).

Estas historias las ha suscitado el tema del que realmente quiero tratar aquí: los diferentes escenarios sociales en los que se desarrollan la ciencia y la tecnología, y la estrecha unión actual de ambas, la tecnociencia, y centrarme en uno de gran actualidad, como es la propuesta presentada por los máximos dirigentes (CEOs) de tres grandes empresas de Inteligencia Artificial (IA), Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk (xAI), de desacelerar el desarrollo de la IA (una especie de moratoria), pidiendo al mismo tiempo el establecimiento de mecanismos gubernamentales para su control.

El motivo es la constatación de que la IA está avanzando tanto que ya comienza a ser capaz de autodirigirse, independizándose de sus programadores.

La IA está avanzando tanto que ya comienza a ser capaz de autodirigirse, independizándose de sus programadores

Se trata de una iniciativa bienvenida, por supuesto, pero es interesante recordar algunos hechos. El primero, que fue Amodei quien lanzó esta iniciativa, a la que posteriormente se sumaron Altman y Musk. En realidad, Anthropic ya había manifestado anteriormente su preocupación por las posibilidades que ofrecían los "modelos de lenguaje de gran tamaño" (large language models) de una IA generativa no regulada, pero su preocupación no encontró apoyo en otras compañías.

Coherente con esa preocupación, Anthropic se negó a que el Pentágono utilizara sus modelos con fines bélicos, lo que hizo que fuera considerada un riesgo para la seguridad nacional estadounidense. Por el contrario, Musk nunca ha tenido reparos en que el chatbot Grok, desarrollado por xIA, se utilice para ayudar a fijar objetivos en Irán, y ChatGPT no se ha resistido a las demandas del presidente Trump, que se opone a cualquier regulación de la IA argumentando que ello daría ventaja a China (durante su mandato, Biden sí introdujo medidas para regular la IA, pero Trump las derogó el primer día de su gobierno).

El Premio Nobel de Economía Paul Krugman opina que el cambio de opinión de Musk y Altman puede deberse al cambio político que se vislumbra en Estados Unidos, con el casi seguro control que los demócratas conseguirán en la Cámara de Representantes, y probablemente también en el Senado. Siempre beneficia no enfrentarse a quienes ostentan el poder.

La propuesta de moratoria para la IA me recuerda la reunión que se celebró en febrero de 1975, en el Centro de Conferencias de Asilomar (California), con la participación de 140 científicos, y en la que se aprobaron protocolos de seguridad que se aconsejaba siguiesen los laboratorios implicados en las investigaciones que se estaban desarrollando después de que se hubiesen introducido las primeras técnicas de ADN recombinante (cortar y pegar trozos de ADN), técnicas que podían dar lugar a aplicaciones peligrosas en el campo de la biología, incluyendo la humana (hice referencia a esa reunión en uno de mis artículos, de hace tres años).

La reunión había sido propiciada por la Academia Nacional de Ciencias de Estados Unidos, que previamente había recomendado que se estableciese una moratoria mundial voluntaria en ese área de investigación, debido a los riesgos potenciales e impredecibles que podría acarrear para la salud humana.

A semejanza del desarrollo del ADN recombinante, reforzado años más tarde por las técnicas de edición genética del CRISPR, los avances de la IA que se hicieron públicos el 30 de noviembre de 2022, con la presentación del ChatGPT, iniciaron una revolución de incalculables consecuencias.

No debe sorprender, por consiguiente, que haya surgido también en este caso una propuesta de dilación, pero las diferencias entre ambos casos son notables, consecuencia, como señalaba al principio, de la diferente situación social, política y económica en que surgieron ambas.

Mientras que en el caso de Asilomar los protagonistas fueron la Academia de Ciencias estadounidense –ahora ninguneada por el presidente Trump– y científicos que conocían bien qué era la biotecnología, en la IA son empresarios megamillonarios quienes alertan sobre unas técnicas que solo sus empresas conocen y dominan.

No es la primera vez que critico en estas páginas que el capitalismo se haya desbordado, permitiendo que un muy reducido número de personas posean fortunas comparables si no superiores a los presupuestos que manejan la mayoría de las naciones, y con la capacidad de influir poderosamente en la información que reciben miles de millones de personas, condicionando así incluso procesos democráticos. Lo que ahora domina el desarrollo —de consecuencias desconocidas— de la IA son los negocios y la geopolítica. Esto es lo que más temo. Lo que hace la IA más peligrosa aún.