Amparo Alonso, catedrática de la Universidade da Coruña y experta en ciencia de la computación e inteligencia artificial.
Ofrecido por:
¿Es realmente peligrosa la inteligencia artificial?: "No es la primera vez que saltan las alarmas"
La experta gallega Amparo Alonso, catedrática de la Universidade da Coruña, insiste en que debemos decidir "qué tipo de IA queremos lo antes posible" y en que "no podemos dejar que esto lo manejen las tecnológicas"
Más noticias: Puertas abiertas a la tecnología en A Coruña: cómo un perro robot vigila y ayuda en emergencias
En las últimas semanas el discurso en torno a los peligros de la inteligencia artificial ha alcanzado tintes apocalípticos, con los dueños de las grandes tecnológicas alertando del riesgo de que esta acabe con la humanidad. Sin embargo, Amparo Alonso, catedrática de la Universidade da Coruña y experta en ciencia de la computación e inteligencia artificial, se muestra escéptica ante estos anuncios: "No es la primera vez que saltan las alarmas ni es la primera carta que se publica que pide la ralentización o el paro de su desarrollo".
Para la experta, la clave estará en la gobernanza de esta tecnología.
"Los riesgos que nos estamos encontrando son éticos, de falta de gobernanza y de responsabilidad en su uso y desarrollo, que son los que hemos tenido desde hace unos cuantos años", asegura.
La novedad está en el desarrollo de modelos de inteligencia artificial agéntica, más autónomos e independientes.
En estos casos, "si no lo diseñas correctamente, pasa lo que ha pasado con el experimento en el que le dijeron a los agentes que hiciesen todo lo posible por descubrir vulnerabilidades en el software, supuestamente desde un entorno seguro. Los agentes las buscaron, las descubrieron y salieron. Básicamente hicieron lo que les habían pedido que hicieran", comenta Alonso.
Por eso, el foco debe ponerse, en palabras de la experta, "en decidir qué tipo queremos desarrollar de verdad, qué tipo de sistemas queremos construir y qué no y cómo imponemos límites y de qué forma".
El problema pasa por el hecho de que "las empresas multinacionales está claro que no van a desarrollar cosas solo para el servicio de la humanidad, sino que están para ganar dinero. La supervisión humana es importante y la responsabilidad implica saber qué tipo de sistemas queremos y cómo les imponemos límites", subraya Alonso.
Ante declaraciones como las de Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk (xAI), que piden frenar el desarrollo de la IA, la experta gallega pone en duda sus discursos.
"Si realmente crees que lo que estás haciendo es peligroso, tu responsabilidad es pararlo. Probablemente tendrá que ver con cuestiones económicas o de equilibrio geopolítico", añade.
Cambio de foco
Mientras, lo cierto es que la amplia difusión de las herramientas de IA está teniendo ya consecuencias.
Alonso explica que, como sociedad, "nos han soltado unas herramientas en las que no se ha pensado mucho en su uso. O sí, y nosotros no lo hemos pensado".
La experta hace la comparativa con las últimas sanciones que ha tenido que pagar Meta en Estados Unidos por el uso de las redes sociales por parte de menores: "Es inquietante que unos años después reconozcan que sabían que eso podía tener consecuencias que los usuarios no prevén. Las diseñan a propósito para que estés enganchado".
Nos han soltado unas herramientas en las que no se ha pensado mucho en su uso. O sí, y nosotros no lo hemos pensado
Amparo Alonso, experta en ciencia de la computación e inteligencia artificial
Volviendo al uso de la IA, como profesora de la UDC, donde imparte clase en los grados de Inteligencia Artificial y de Ingeniería Informática, admite que "los alumnos la utilizan y no se lo puedes prohibir porque es imposible ponerle puertas al campo. Pero estamos en un mundo que va demasiado deprisa y nos alucina que no comprendan una pregunta de más de dos líneas".
Ante esta situación, sí incide en que "necesitamos parar y reflexionar" pero que "la culpa no la tiene la tecnología. Hemos liberado herramientas que crean dependencia y las personas que las producen lo saben".
De hecho, Alonso considera que los mensajes alarmistas de los dueños de las tecnológicas "distraen un poco con esto de 'vamos a acabar con la humanidad', que es una cosa muy de película, sin dar un motivo serio y fundamentado de por qué es así o qué se está haciendo".
Mientras tanto, "no estamos hablando de la gobernanza real, de los problemas de seguridad, de privacidad, de la toxicidad de los algoritmos, etc".
Sobreconfiar en los chats de IA "te despoja de tu criterio"
La experta advierte que "el uso exagerado de la inteligencia artificial te despoja de tu criterio".
Hoy en día muchos usuarios utilizan herramientas como ChatGPT para tomar decisiones personales y "al comunicarse contigo y utilizar un lenguaje humano, es una especie de oráculo en el que parece que puedes confiar. Eso no es así. Sobreconfiar en la inteligencia artificial destruye tu propio criterio, porque te puedes equivocar y la IA también, pero no detectas que se equivoca".
A esto se suma la pérdida de privacidad al "dar datos personales a una compañía que los puede utilizar para aprender".
Este tipo de herramientas no dejan de tener mucha opacidad y "falta de transparencia o sesgos" que incrementarán además una brecha entre quienes las utilizan y quienes no.
Qué está haciendo la Aesia desde A Coruña
La experta subraya que en todo este contexto es importante contar con una regulación que, si bien "siempre llega más tarde que la tecnología", es necesaria para garantizar su uso seguro.
En Europa, donde está en vigor desde el 2024 el AI Act, "lo importante es que la gobernanza está encima de la mesa".
Tenemos que pensar qué tipo de inteligencia artificial queremos y quién conserva la capacidad de decisión lo antes posible
Amparo Alonso, experta en ciencia de la computación e inteligencia artificial
Alonso compara la situación actual con la irrupción de los automóviles el siglo pasado: "Al principio se discutía si las personas, a 30 kilómetros por hora, nos íbamos a desintegrar. Luego fuimos avanzando mejorando los motores, la seguridad y la protección. Con todas las tecnologías ocurre lo mismo".
En el debate sobre la gobernanza de la IA, "las empresas deben jugar un papel, pero todo lo demás también. Los gobiernos, los ciudadanos, las instituciones... Hay muchas opiniones que deben prevalecer".
Desde A Coruña, sede de la Aesia (Agencia Española de Supervisión de la Inteligencia Artificial), ya se está trabajando en ello.
Amparo Alonso forma parte de su laboratorio de ideas y explica que el organismo ya ha propuesto en la Unión Europea un estudio sobre menores de edad e inteligencia artificial.
"El papel de la Aesia puede ser muy importante para poner encima de la mesa cuestiones que es necesario tener en cuenta y para poner en valor el papel de España, al menos, en la parte de la discusión ética", apunta.
En esta línea, la agencia está trabajando también en estudios e informes relacionados con el género o la sostenibilidad aplicados al ámbito de la IA.
"Tenemos que pensar qué tipo de inteligencia artificial queremos y quién conserva la capacidad de decisión lo antes posible. Si no, estamos aceptando una carrera en la que la dinámica de las grandes tecnológicas y del poder de la geopolítica condicionan el desarrollo de la tecnología", subraya.
Ahora, "no podemos dejar que esto lo manejen las tecnológicas, que tienen sus intereses políticos, sociales, geopolíticos y económicos. Esta tecnología tiene mucho potencial para el bien, y para el mal, entonces hay que regularla y ser responsables de su desarrollo", concluye.
