La Semana Informática, organizada por el Colegio Oficial de Ingeniería Informática de la Comunidad Valenciana (COIICV), se ha consagrado como un evento de referencia regional en el sector de la tecnologías de la información (TI). Desde que echara a andar, allá por 2006, ha ejerciendo como epicentro de la reflexión y análisis de la mano de expertos de primer nivel en estas temáticas que marcan tendencia en cada edición.

En plena ola de la inteligencia artificial, la tecnología del momento no podía pasar desapercibida en la cita tecnológica de este año. Las reflexiones alrededor de su impacto social y ético constituyen uno de los platos fuertes de la presente edición que arranca este martes en Valencia bajo el lema Ética digital en la era de la sostenibilidad digital.

DISRUPTORES - EL ESPAÑOL conversa en la antesala de la cita tecnológica con algunos de los participantes que conforman el nutrido programa de la Semana Informática y la primera conclusión sobre la IA es clara: "Una sociedad digital sostenible requiere acabar con la selva de no regulación informática".

[Análisis de la ley europea de inteligencia artificial: pionera en el mundo, pero con rebajas en las prohibiciones]

Habla para DISRUPTORES Juan Pablo Peñarrubia, vicepresidente del Consejo General de Colegios de Ingeniería Informática de España (CCII), y experto en regulación y estandarización en IA.

La pandemia del coronavirus ejerció de acelerante para la transformación digital de la sociedad y la puesta en marcha de una nueva economía -aún en construcción-, cada vez más digital y tecnológica, que no se entendería sin el acicate en la implementación de todo tipo de procesos digitales que impuso la covid a partir de 2020.

El nuevo paradigma que abrió en otoño de 2022 OpenAI y su famoso ChatGPT ha sido el siguiente salto cualitativo. La transformación digital está inmersa en un nuevo tiempo donde, sin una regulación ética y sostenible de la inteligencia artificial, los efectos de esta tecnología pueden ser imprecedibles y contraproducentes para la construcción de una sociedad digital madura.

Juan Pablo Peñarrubia, vicepresidente del Consejo General de Colegios de Ingeniería Informática de España (CCII).

En este contexto, ¿qué papel están desempeñando los informáticos? Encontrar las respuestas adecuadas es uno de los objetivos del XIX Congreso de Ingeniería Informática de la Comunidad Valenciana que arranca mañana en la capital del Turia.

La cita permitirá conocer las propuestas de empresas y organizaciones de referencia en el uso de diferentes soluciones tecnológicas, con especial foco en el impacto social y ético de la inteligencia artificial, así como el estado de la estandarización internacional en materia de esta tecnología.

Juan Pablo Peñarrubia adelanta para DISRUPTORES parte del análisis que se pondrá sobre la mesa este 24 de abril en la Semana Informática.

"La IA no es mágica, sino que ha sido producida por profesionales y empresas. Los hechos han mostrado que la no regulación de la informática es jugar con fuego. Los medios informáticos son el principal elemento de desestabilización de las sociedades democráticas por parte de terceros países o por actores internos. Una sociedad digital sostenible requiere acabar con la selva de no regulación informática", defiende.

"La sociedad lleva décadas aplazando una regulación adecuada de los productos y servicios informáticos; esta dejadez está socavando los cimientos de la democracia"

Juan Pablo Peñarrubia, vicepresidente del CCII

En este sentido, la AI Act, el reglamento europeo que regula esta tecnología, supone "la primera regulación ambiciosa de una tecnología informática", esgrime el experto. 

"La sociedad lleva décadas aplazando una regulación adecuada de los productos y servicios informáticos. La realidad ha mostrado cómo esta dejadez está socavando los cimientos de la democracia, las instituciones políticas y la dinámica social por entero: medios de comunicación, polarización de la opinión pública, cosificación de las personas o desresponsabilización digital", incide Peñarrubia.

A su juicio, la AI Act "es un importante avance". En concreto, los profesionales de la informática confían en que "contribuya progresivamente a un cambio de tendencia en el que se pase de los modelos basados en la cosificación de las personas ('el producto eres tú') a los modelos basados en la creación de valor para las personas, las empresas y la sociedad".

Por otra parte, Peñarrubia es también experto en estandarización de la inteligencia artificial. Precisamente, durante esta semana se celebra la reunión plenaria mundial del Comité de Estandarización de Inteligencia Artificial de ISO, donde el también vicepresidente del CCII ejerce como responsable de la delegación española en ISO (UNE). 

Comité de Estandarización de IA de ISO

El enfoque europeo pasa por la regulación de la IA mediante el Reglamento Europeo de IA y, de forma más amplia, a través de la estandarización, tanto a nivel técnico como a nivel de gestión de riesgos o los impactos sociales y éticos, desarrolla el experto.

"El reglamento es de inminente publicación y la estandarización europea de IA se ha impulsado mediante una resolución específica de la Comisión Europea (denominada formalmente Stardardizatios Request), para que en paralelo a la entrada en vigor del reglamento se publiquen por CEN (Comite Europeo de Normalización), un conjunto de estándares esenciales para complementar lo previsto legalmente, especialmente en 2024 y 2025".

En este sentido, Peñarrubia incide en que "muchos de esos estándares lo serán a nivel global, no solo europeo, al ser publicados por ISO (Organización Internacional de Estandarización)".

Este cuerpo normativo en desarrollo es de vital relevancia "no solo para el sector profesional y empresarial español en el ámbito de los informáticos, sino para todas las empresas, ciudadanos y sociedad en general, en tanto que usuarias potenciales de sistemas de IA", concluye Peñarrubia.

Idoia Salazar, presidenta del Observatorio del Impacto Social y Ético de la Inteligencia Artificial (OdiseIA).

Idoia Salazar, presidenta de OdiseIA y Agustín Domingo, catedrático de ética de la Universitat de València son otros de los ponentes de primer nivel que abordarán esta temática en la Semana Informática de COIICV.

"Cada vez vivimos más en un mundo de datos y la IA es la herramienta indispensable que nos ayuda a gestionar dichos datos. Es decir, gracias al uso de la IA, las empresas que quieran vender productos y servicios tendrán más fácil aún llegar a su público objetivo y, a nivel político, o de modificación de ideologías, será más sencilla la manipulación inconsciente", expone Salazar.

Este último caso es para la experta, "el gran riesgo actual cuando hablamos de la incidencia de la IA en la sociedad". "Es muy importante trabajar en la concienciación social en torno a la incidencia real de la IA en el día a día de los ciudadanos para prever posibles 'atentados inconscientes o conscientes' contra la democracia o la capacidad libre y consciente de elección", prosigue.

Idoia Salazar está trabajando en el desarrollo del Sandbox de regulación de la IA con el Gobierno de España, así como en el diseño del Sello Nacional en Inteligencia Artificial y de la Agencia de Supervisión de Algoritmos (AESIA). 

"Es muy importante trabajar en la concienciación social en torno a la incidencia real de la IA en el día a día de los ciudadanos"

Idoia Salazar, presidenta de OdiseIA

"Lo que se pretende en este primer sandbox español es perfilar estas guías con el feedback de los participantes en el sandbox y después publicarlas para que cualquier empresa, sin grandes conocimientos en esta regulación, se pueda adecuar a la misma. En cualquier caso, aún le queda al Gobierno trabajo por hacer al respecto".

Por último, Agustín Domingo, catedrático de Filosofía Moral y Política en la Universitat de València y experto en ética, pone sobre la mesa otro punto de vista revelador en esta temática que quizás estamos perdiendo de vista como sociedad ante el tsunami de la IA en la actualidad: la necesidad de "desmitificar" esta tecnología.

"Desmitificar la IA"

"Necesitamos desmitificar la IA, parece que el tren de la civilización y del progreso dependerá de la IA, como si la salvación nos llegara de los ingenieros de la IA como nuevos profetas-visionarios", asevera a esta redacción.

Para al experto en ética, "la IA formaliza, abstrae, desmaterializa y descorporeiza la vida humana. El mundo de las emociones, los afectos y la estimativa moral tiene dimensiones carnales que nunca se digitalizarán: la conciencia, la intimidad, lo que llamamos 'fuero interno', la capacidad de donación y negación de uno mismo", prosigue.

Agustin Domingo, catedrático de Filosofía Moral y Política en la Universitat de València.

Y avisa: "Los sistemas de IA no están exentos de riesgos para el control, la manipulación y el dominio de los pueblos". "Las tendencias actuales de su uso no apuntan hacia sociedades más democráticas, tolerantes y personalizadoras". De ahí la necesidad de incidir en el uso ético y responsable de la IA.

"Los sistemas de IA pueden ser el último peldaño de una razón instrumental que convierte a los sujetos en objetos de su propio desarrollo, las personas no sólo se convierten en medios sin valor, sino en puros datos. La persona reducida a gavilla de datos sin resistencia para ser único, irrepetible y ciudadano", concluye.

Sin lugar a dudas, una semana intensa de reflexiones al más alto nivel la que ofrece la Semana Informática, con la IA como epicentro de las ponencias, y con una apretada agenda que concluirá el próximo jueves con la entrega de los prestigiosos premios Sapiens 2024, que distinguen cada año a profesionales, empresas y Administraciones públicas que sobresalen en el uso ético y social de las TIC, así como ponen en valor a los profesionales de la informática.