En 2018 la UE lanzó su estrategia sobre inteligencia artificial para Europa. En dicha estrategia se fijaron una serie de objetivos tendientes a poner sobre la mesa tres ejes principales. En primer lugar, potenciar la capacidad tecnológica e industrial de la UE.
En segundo lugar, preparar a la UE para las transformaciones socioeconómicas que origina la IA, y en tercer lugar, garantizar el establecimiento de un marco ético y jurídico apropiado, basado en los valores de la UE.
Para lograr los objetivos propuestos, la Comisión Europea publicó una primera propuesta de regulación sobre reglas sobre inteligencia artificial. Se trata de la primera propuesta normativa en el mundo, tendiente a regular algunos aspectos tanto desde el punto de vista ético como jurídico, de la IA.
De esta manera, la Propuesta del Reglamento del Parlamento Europeo y del Consejo en materia de IA tiene por objeto abordar los riesgos de los usos específicos de la IA, clasificándolos en 3 niveles diferentes: riesgo inaceptable, riesgo elevado, riesgo limitado y riesgo mínimo. Asimismo, el Reglamento incorpora una serie de reglas de transparencia armonizadas para aquellos sistemas dirigidos a interactuar con personas físicas, para generar o manipular imágenes, sonidos o contenidos de vídeo.
En relación con el contenido del Reglamento, éste propone un amplio ámbito de aplicación subjetivo y territorial. En este sentido, el Reglamento abarca una serie de actores diversos que intervienen en los procesos de desarrollo de la IA, como es el caso de proveedores, importadores y distribuidores no solo de la UE, sino de aquellos empleados en terceros países cuando estos puedan producir efectos al interior de la UE.
Por otro lado, la parte esencial del Reglamento es la clasificación de los riesgos de los sistemas de IA. En este sentido, al Reglamento propone cuatro clasificaciones de los niveles de riesgo:
1. Sistemas de IA inaceptables: el Reglamento incorpora una serie de sistemas de IA que se consideran como inaceptables y, por ende, prohibidos y señala todos aquellos que entrañan un riesgo inadmisible para la seguridad, la vida o los derechos fundamentales de los ciudadanos. Entre los considerados como prohibidos, podemos identificar, por ejemplo, los sistemas que puedan manipular el comportamiento humano o aquellos que puedan predecir información sobre colectivos o grupos vulnerables.
2. Sistemas de IA de alto riesgo: en esta clasificación el Reglamento enumera otro tipo de sistemas de IA, cuyo uso no está prohibido como sucede con los casos señalados en el apartado anterior, pero que suponen un “riesgo alto” para los derechos y libertades de los ciudadanos. Por ello, estos sistemas deben estar sujetos a una serie de medidas reforzadas que pueda garantizar su uso legal, ético y seguro.
3. Sistemas de IA de riesgo medio / bajo: dentro de los sistemas de IA de riesgo medio/bajo el Reglamento contempla todos aquellos que en principio no generan un riesgo elevado para los derechos y libertades. Dentro de estos sistemas podemos identificar algunos como asistentes virtuales, chatbots, entre otros.
En el caso de los sistemas de IA de alto riesgo, el Reglamento contempla una serie de obligaciones robustas que deben ser asumidas por todos los agentes que intervienen en los sistemas de IA, con lo cual se establece que el uso de sistemas de IA con riesgo alto, podrán ser utilizados pero siempre cumpliendo con las obligaciones impuestas por el Reglamento, que son, entre otras: (i) la gobernanza de datos; (ii) la seguridad y supervisión humana; (iii) los deberes de transparencia; (iv) la inscripción en la base de datos europea; y (v) la superación del test de conformidad y certificación correspondiente.
Por otro lado, en relación con los sistemas de IA de riesgo medio y bajo, el Reglamento establece que dichos sistemas solamente deberán someterse a una serie de normas de transparencia tendientes a garantizar que sus características y su nivel de funcionamiento sean conocidos por los usuarios.
Para finalizar, es importante tomar en cuenta que el incumplimiento de las obligaciones propuestas en el Reglamento, implica sanciones que pueden ir desde los 10 millones de euros hasta el 6% del volumen de negocio anual total a escala mundial del ejercicio financiero anterior.
En conclusión, debemos mencionar que la propuesta de Reglamento que ha sido impulsada por la UE, busca dar cobertura y desarrollo a la estrategia sobre Inteligencia Artificial impulsada por la Comisión Europea en 2018. Dicha propuesta lanzada en 2021 debe ser discutida y analizada por el Consejo y el Parlamento como los órganos co-legislativos de la UE. Habrá que estar atentos para ver de qué forma se materializa finalmente esta propuesta, lo que constituiría un paso muy importante de cara a la regulación legal, ética y de seguridad de los sistemas de IA que tendrán cada vez mas complejidad y más desarrollo.