Estamos viviendo probablemente una de las mayores transformaciones tecnológicas, sociales y culturales de nuestra historia.
Cada semana aparece un nuevo modelo, una nueva compañía, una nueva capacidad aparentemente imposible.
Pero entre el ruido de los lanzamientos hay una pregunta que me interesa mucho más.
¿Qué está haciendo realmente la inteligencia artificial con nosotros?
No solo con nuestras empresas o nuestro trabajo.
Con nuestra forma de pensar.
Con nuestras lenguas.
Con nuestros sesgos.
Con nuestra capacidad de crear.
Con nuestra autonomía.
Y, en definitiva, con la sociedad que estamos construyendo.
Para hablar de todo esto está hoy conmigo la gallega Alba Meijide, ingeniera especializada en inteligencia artificial y colaboradora en los trabajos de la Unión Europea sobre regulación y buenas prácticas en IA.
Si quitamos el hype, los titulares y los lanzamientos constantes, ¿en qué punto está realmente la inteligencia artificial? ¿Qué estamos exagerando y qué estamos infravalorando?
Si quitamos titulares y presentación de producto, creo que estamos en un punto en el que, a nivel técnico, la IA ya no promete, cumple. Y, de hecho, es la primera vez que vemos avances a un ritmo tan exponencial, tenemos sistemas capaces de generar imágenes y vídeos hiperrealistas o textos indistinguibles de los escritos por una persona. La parte técnica ya está aquí, no es una promesa a futuro, es una realidad que además sigue mejorando semana a semana.
Lo que sí creo que estamos infravalorando, y bastante, es que ahora mismo estamos usando estas herramientas a un coste muy bajo, y no hablo solo de dinero. Ese acceso tan fácil y tan barato está haciendo que dependamos de la IA muchísimo más de lo que somos conscientes, hasta el punto de que ya está cambiando nuestra forma de pensar, de trabajar, de vivir el día a día. Y ahí está el problema, ¿qué pasa el día en que esos costes cambien? Porque detrás de cada consulta hay un gasto energético, de agua, de infraestructura, que hoy no estamos pagando en su totalidad, y sostener ese modelo a la escala masiva en la que se está usando no es viable indefinidamente. Si en algún momento eso se ajusta, nos vamos a encontrar con millones de personas que necesitan esta tecnología, o que creen que la necesitan porque ya han construido su forma de vivir alrededor de ella, y que de repente pueden perder el acceso que daban por garantizado.
Y ahí llegamos a algo, para mí, todavía más importante. Una vez que la parte técnica deja de ser el freno, porque ya lo está demostrando y seguirá mejorando casi a diario, el foco debería cambiar de sitio. Ya no se trata tanto de la capacidad del sistema o de la calidad de sus respuestas, eso lo damos casi por hecho. Se trata de mirar cada caso de uso concreto, qué estamos exagerando y qué estamos infravalorando en cada uno, y qué repercusiones reales tiene. Tenemos que coger esta tecnología sabiendo que va a seguir mejorando hasta puntos que hoy ni siquiera imaginamos. Y desde ahí, anticipar todos los usos posibles y trazar las líneas. Qué nos parece ético y qué no. Dónde tiene sentido que esta tecnología entre y dónde deberíamos mantenerla fuera, por mucho que técnicamente pudiera hacerlo.
¿Puede existir realmente una inteligencia artificial ética? ¿O cualquier IA de cierta escala va a tener inevitablemente impactos que tenemos que decidir si estamos dispuestos a aceptar?
Sin duda una inteligencia artificial ética es alcanzable, y soy fiel defensora de que lo sea. Pero no es una etiqueta que se le pone a un sistema de una vez y para siempre, es un ejercicio de análisis constante, y además con varias capas de profundidad.
La primera es la más evidente, el uso que le vamos a dar. Antes de lanzar cualquier sistema deberíamos haber estudiado su impacto, tanto el positivo como el negativo, y haberle puesto los guardarraíles necesarios para que se comporte, "como debe". Pero la ética no se agota ahí, porque incluso un sistema bien pensado para su propósito puede fallar en otro frente igual de importante, el de la proporción. Con demasiada frecuencia desplegamos algoritmos sobredimensionados para tareas que no los requieren, y eso no es un detalle técnico menor, sino un gran impacto en nuestra huella medioambiental, y en el consumo energético y de agua, entre otros recursos. Una IA ética, para mí, es también una IA que se ajusta a lo que hace falta, a su propósito.
Y luego está lo que menos se discute, la representatividad. Incluso siendo generosos y dando por hecho que los datos de entrenamiento se han recogido de forma legal, cuando en la práctica muchas veces se recurre al rastreo masivo, queda pendiente la pregunta más importante, ¿estos datos representan de verdad a quienes van a usar el sistema? Su procedencia, su cultura, su forma de hablar, incluso su relación con la tecnología, que cambia enormemente según la edad de cada persona, por ejemplo. Un sistema que no tiene esto en cuenta ya está fallando en algo esencial, por muy bien que funcione técnicamente.
Así que sí, la inteligencia artificial ética es realista y merece la pena defenderla. El problema es que exige detenerse, y hoy todo empuja en la dirección contraria, sacar cada vez más herramientas y sacarlas cuanto antes. Y ahí, precisamente, nace la mayoría de los problemas que después salen a la luz, datos mal revisados, usos que nadie había contemplado, impactos en la sociedad que nadie se paró a prever.
¿Nos estamos volviendo menos inteligentes por utilizar IA? Si cada vez delegamos más tareas cognitivas —escribir, buscar, resumir, calcular, programar—, ¿qué capacidades estamos dejando de ejercitar?
Ojalá pudiera darte una respuesta distinta, pero la evidencia apunta en una dirección bastante clara, que cuando delegamos demasiado en la IA, sí, nos estamos volviendo menos hábiles en algo tan importante como el pensamiento crítico. El concepto técnico es "descarga cognitiva”, y es todo aquello que hacemos para reducir el esfuerzo mental que exige una tarea. Y aquí aplica la misma lógica que con un músculo, si no lo ejercitas, se atrofia, y con el cerebro pasa exactamente igual.
Lo interesante es que ya no es una intuición, hay números detrás. El investigador Michael Gerlich analizó a 666 participantes y encontró una correlación clara, cuanto mayor es la delegación de tareas mentales en la IA, menor es el uso del pensamiento crítico. Y esto no se queda en el plano académico, ya está teniendo consecuencias visibles. Recientemente pudimos ver cómo el alcalde de Nueva York, Zohran Mamdani, ha prohibido el uso de IA generativa en las escuelas públicas de la ciudad desde preescolar hasta octavo grado, una medida que afectará a unos 600.000 alumnos. Que una administración tome una decisión tan drástica no es casualidad, es la constatación de que el riesgo es real y que había que actuar.
Pero yo no me quedaría solo en la inteligencia "de rendimiento", la que mide si resolvemos una tarea bien o mal. Hay otra dimensión que me preocupa incluso más, y es la inteligencia emocional y social. Cada vez más jóvenes recurren a sistemas de IA para gestionar sus problemas personales, para acabar con una relación, para pedir consejo amoroso… Y ahí es donde creo que nos jugamos algo mucho más profundo que la capacidad de resolver un problema matemático, nos jugamos cómo aprendemos a relacionarnos, a gestionar el conflicto, a sostener la incomodidad de una conversación difícil sin que nadie nos dé el guion. Eso no se atrofia como un músculo, se moldea, y si delegamos esa parte del desarrollo, las consecuencias pueden ser mucho más difíciles de revertir.
Dicho esto, no creo que la solución sea el rechazo total ni la nostalgia de un mundo sin IA. Creo que la solución está en nuestras manos, literalmente, en cada decisión del día a día, qué delegamos y qué no. Puede que a veces parezca menos eficiente, que nos cueste más tiempo escribir algo nosotras mismas o resolver un problema sin ayuda. Pero ahí es donde protegemos una parte de nuestra capacidad que no queremos perder. Al final se trata de eso, de saber poner en la balanza qué estamos dispuestos a sacrificar a cambio de comodidad.
¿Te preocupa más que la IA se equivoque o que tenga razón demasiadas veces? Porque si empieza a tomar mejores decisiones que nosotros, ¿podemos acabar simplemente dejando de pensar?
A mí no me preocupa tanto que la IA se equivoque, ni siquiera que acierte demasiadas veces. Lo que de verdad importa es que no confundamos dos cosas que solemos meter en el mismo saco, procesar información y tomar una decisión.
En lo primero, no hay competición posible. Un sistema de IA puede manejar volúmenes de datos que a nosotros nos llevarían toda una vida procesar, y cada vez hay más (más móviles, más aplicaciones, más rastro digital que analizar...) Ahí, que la IA "tenga razón" con frecuencia me parece una noticia estupenda, es exactamente lo que le pedimos, que sea fiable y trazable. El problema aparece cuando saltamos de ahí a pensar que, por tener hacer una buena interpretación de los datos, también la tiene en la decisión.
Porque interpretar el mundo no es lo mismo que procesarlo. Nosotros entendemos matices, contradicciones, contexto social, todo eso que llevamos miles de años de evolución afinando y que no se resume en un patrón estadístico. Por eso a la IA le pido que nos ayude a manejar ese volumen de información, pero la decisión final la sigamos tomando nosotros. Una decisión que afecta a una sociedad o a un negocio necesita detenimiento, pensamiento lateral, esa comprensión humana que no se automatiza.
Así que no, no creo que vayamos a dejar de pensar por tener sistemas más certeros. El riesgo no está en que la IA acierte, está en que nosotros dejemos de exigirnos ese último paso, el de decidir con criterio propio, aunque tengamos delante todas las respuestas correctas del mundo.
¿Deberíamos preocuparnos más por quién controla la IA que por lo que la IA puede llegar a hacer? Si unos pocos actores controlan los modelos más potentes, ¿estamos concentrando demasiado poder?
Para mí, lo que hace un sistema de IA y quién está detrás de él son dos conceptos que están completamente entrelazados, y son imposibles de separar. Una empresa, igual que cualquiera de nosotros en nuestro trabajo, actúa mirando por su propio beneficio, sea cual sea, y eso inevitablemente se traslada al sistema que construye. No digo que eso sea bueno ni malo en sí mismo, depende de cada caso, pero sí que la forma en que se aplica una IA lleva siempre puesta la lente de quien la ha creado.
Y ahí es donde entra algo que me preocupa especialmente, la soberanía tecnológica europea. No se trata de un discurso de "nosotros contra el resto del mundo", ni mucho menos, creo firmemente que todos los países tienen algo que aportar y que colaborando llegamos más lejos. Pero una cosa es colaborar y otra muy distinta es depender por completo de sistemas ajenos para poder innovar. Como territorio, necesitamos tener la capacidad de desarrollar nuestros propios sistemas, no como gesto simbólico sino como garantía de autonomía real.
Porque lo que estamos viendo es que la IA ya no es solo una herramienta, es una pieza que pesa en decisiones estratégicas y en el tablero geopolítico actual. Y si aceptamos que no se puede separar la obra del artista, tendríamos que aplicar la misma lógica aquí, no podemos separar la respuesta que nos da un sistema IA de quién está detrás construyéndolo. Saber quién controla la tecnología que usamos no es simple curiosidad, es entender qué está condicionando, aunque sea de forma sutil, cada respuesta que recibimos.
Si una máquina puede escribir mejor que nosotros, crear mejor que nosotros y razonar mejor que nosotros, ¿qué nos queda que sea exclusivamente humano?
Antes de responder, tengo que cuestionar la propia pregunta, ¿existe una forma de crear, escribir o razonar que sea “mejor” que otras? Considero que eso es algo que siempre pasa por el filtro de quien observa, del gusto, del criterio, de la experiencia de cada uno. Por eso no me gusta plantear la relación entre humanos e IA como una competición, porque una competición necesita un ganador, y aquí no debería haberlo.
Dicho esto, sí es cierto que a nivel técnico hemos llegado a un punto de una excelencia notable, ya que contamos con textos e imágenes generados por IA que pasan completamente desapercibidos, que no sabemos distinguir de aquellos creados por una persona. En la calidad no entro, porque ahí ya cada uno tiene su vara de medir. Pero precisamente ese marco de "quién gana" me parece uno de los grandes problemas de cómo estamos adoptando esta tecnología, sobre todo en los sectores creativos, donde a veces se plantea como si solo pudiera sobrevivir uno de los dos.
Para mí el escenario deseable es justo el contrario, una relación con la IA que nos empuje a crear más y a razonar mejor. El problema es que vivimos un momento donde parece regir una lógica muy simple, “si algo se puede hacer con una máquina, se hace”, sin pararnos a preguntar si conviene. Y aquí vuelvo a algo que ya comentaba antes, la clave está en decidir hasta dónde queremos llegar. Que un sistema sea capaz de redactar una noticia en segundos no significa que tengamos que dejar de lado el rigor periodístico, la investigación, o incluso el propio placer de escribir de mano propia, y para nosotros como lectores, el de leer un contenido creado por un profesional formado para ello. Esto no quita que en ese proceso la IA pueda ayudar, pero la retórica de que “solo puede quedar uno, humano vs. IA”, es algo que llevamos escuchando desde que se empezó a democratizar esta tecnología, y no es una narrativa con la que debamos conformarnos, ni tampoco una perspectiva sana para nosotros como sociedad. Como responsables de esta tecnología, nos toca decidir qué procesos necesitan siempre una mirada humana detrás y cuáles no, aunque técnicamente sea posible saltársela. Porque si no lo hacemos, corremos el riesgo de que crear con calma, hacerlo a mano, con el tiempo que eso requiere, termine siendo un lujo, simplemente porque ya no resulta rentable frente a lo que se genera en segundos.
¿Crees que el verdadero reto de la inteligencia artificial no es conseguir que las máquinas sean más humanas, sino conseguir que los humanos no dejemos de ser humanos?
Es una perspectiva que me resulta muy interesante, aunque no necesariamente en el sentido positivo, sino porque pone la mirada en algo que me sorprende bastante, cómo cambia el paradigma en cuanto hablamos de IA frente a cualquier otra tecnología.
Cuando yo me formé en tecnología, y no hablo solo de IA, sino de diseño de producto en general, lo primero que se enseña es que el ser humano tiene que estar en el centro. La tecnología, sea un dispositivo, una aplicación o un algoritmo, tiene que orbitar a su alrededor, como un satélite, y su función es aumentar nuestras capacidades, no ocupar nuestro lugar.
Y esa lógica, curiosamente, se rompe en cuanto entra la inteligencia artificial en la ecuación. De repente el esquema cambia, ya no hay un centro con un satélite alrededor, hay dos protagonistas compitiendo por el mismo espacio, humano e IA, como si solo uno pudiera quedarse en el centro. Y ese cambio de posicionamiento, aunque parezca sutil, es de los más peligrosos que estamos normalizando.
Por eso, para mí, el objetivo nunca debería ser hacer que la IA se parezca más a nosotros. El objetivo es que nos sea útil, que tenga un impacto positivo real en nuestras vidas. Existe, o al menos debería existir, para mejorarnos, no para disputarnos el centro de ese esquema. Y los humanos siempre hemos sido humanos y lo vamos a seguir siendo, por suerte o por desgracia no tenemos elección, con nuestras contradicciones, nuestra intuición, nuestra forma de estar en el mundo. El verdadero reto no es que la IA se acerque a nosotros hasta el punto de ser indistinguible, es que nosotros no perdamos de vista dónde queremos que esté el centro de todo esto.
Imagina que estamos en 2040: ¿qué estamos haciendo hoy con la IA que crees que nuestros hijos nos preguntarán "¿cómo pudisteis permitir eso?".
Cuando pienso en 2040, me vienen varias imágenes a la cabeza, como le pasará a cualquiera que se haya parado a mirar de cerca los impactos no deseados de la IA. Pero si tuviera que priorizar, empezaría por estos tres casos.
El primero ya lo he adelantado antes, y es el hecho de que hacer las cosas con las manos, sostener un proceso creativo o tomarnos el tiempo de hacer algo con intención, se convierta en un lujo al alcance de muy pocos. Si todo lo que se puede automatizar acaba automatizándose porque sale más barato y más rápido, lo artesanal, lo hecho con calma, deja de competir en el mercado. Y entonces solo puede permitírselo quien tiene los recursos para permitirse ese "extra" de tiempo humano, mientras que para el resto la opción por defecto es lo generado en segundos. Y me preocupa que en 2040 miremos atrás y nos preguntemos cómo dejamos que crear con nuestras propias manos pasara de ser algo cotidiano a ser un privilegio.
La segunda es la vigilancia masiva impulsada por IA, y aquí no hablamos de ciencia ficción, ya está pasando. Cada vez vemos más ejemplos de sistemas de reconocimiento facial y de cruce masivo de datos que se usan para identificar y rastrear a personas en tiempo real, con muy poco control democrático sobre dónde está el límite. En Europa estamos, de momento, más protegidos por el marco de derechos fundamentales y por regulaciones como el RGPD o la Ley de IA, pero "de momento" es la palabra clave, la tecnología avanza más rápido que la capacidad de las instituciones para ponerle límites, y no podemos dar por hecho que esa protección sea permanente si no la sostenemos activamente.
Y la tercera es el uso de la IA para decidir el acceso a recursos públicos como sanidad, ayudas sociales o vivienda. Delegar en un algoritmo decisiones que determinan si una persona recibe o no un recurso básico del que depende su vida me parece uno de los terrenos más delicados de todos, porque ahí el error no es un dato mal calculado, es una vida real afectada por un sistema al que, muchas veces, ni siquiera podemos pedirle explicaciones.
Si en 2040 nuestros hijos nos preguntan cómo pudimos permitir esto, espero que la respuesta no sea "no nos dimos cuenta", porque la evidencia ya está aquí, delante de nosotros.