La UE cambia las reglas y vota prohibir las apps para desnudar a mujeres, pero retrasa la adopción de la ley de la IA

Los parlamentarios europeos han decidido poner freno a la polémica ley de la inteligencia artificial después de las críticas del sector tecnológico sobre su tramitación y cómo iba a afectar a la innovación; pero hay un subsector concreto que no se salva, el de la generación de imágenes y vídeos.

La mayoría obtenida hoy en el Parlamento Europeo supone que ciertas partes de la ley de la IA europea serán retrasadas y no serán adoptadas inmediatamente; eso, pese a que la ley fue tramitada por la vía rápida como parte de un 'omnibús' a principios de mes.

Pero sobre todo, la votación de hoy se centró en atajar uno de los grandes problemas que han nacido con los modelos de generación de imágenes y vídeos, la creación de contenido pornográfico sin permiso, y en concreto, las apps para desnudar a personas sin su consentimiento.

La IA de Elon Musk es capaz de desnudar a cualquier mujer sin importar la edad: Grok llena la red social X de fotos

Este tipo de servicios prometen ser capaces de tomar cualquier fotografía de una persona y quitarle la ropa, generando una nueva imagen que puede ser descargada y compartida a través de redes sociales o apps de mensajería como WhatsApp.

Ahora, el Parlamento Europeo ha votado a favor de prohibir este tipo de aplicaciones y servicios, aunque aclara que este veto no será aplicado a los sistemas basados en IA con "medidas de seguridad efectivas" que eviten que sean usadas para este propósito.

De esta manera, aplicaciones de inteligencia artificial que permiten generar imágenes, como Gemini o ChatGPT, no serían prohibidas siempre y cuando demuestren que son capaces de evitar este mal uso y de generar ese tipo de contenido pornográfico.

La votación llega después del escándalo protagonizado por Grok, la inteligencia artificial de Elon Musk y que fue usada de manera masiva por los usuarios de X (antigua Twitter) para desnudar a cualquier mujer que compartía sus fotografías en la red social, incluso si era menor de edad.

Grok habría generado 3 millones de fotos sexualizadas de mujeres: 23.000 de menores, según una investigación

Aunque inicialmente Musk negó cualquier problema, afirmando que no tenía "constancia de ninguna imagen de menores desnudos generada por Grok", poco después la plataforma implementó limitaciones a la generación de imágenes y cambios en el algoritmo de Grok.

Pese a eso, semanas después aún era posible encontrarse casos de usuarios que eran capaces de 'engañar' a la inteligencia artificial y generar imágenes con desnudos. En ese caso, la red social X podría ser prohibida en la Unión Europea si no demuestra que ha tomado medidas para evitar que eso se repita.

Sin embargo, esta es la única limitación que reciben los desarrolladores de inteligencia artificial en la Unión Europea. La enmienda votada hoy establece nuevos plazos para cumplir con la nueva ley de IA, que darán más margen a las compañías para continuar lo que estaban haciendo hasta ahora.

Por ejemplo, los servicios que generan imágenes y vídeos ya no tienen la obligación de poner 'marcas de agua' a sus creaciones, ya que las reglas han sido retrasadas hasta el próximo mes de noviembre de 2026.

De la misma manera, los desarrolladores de sistemas de IA "de alto riesgo" como los que pueden afectar a la salud, la seguridad o los derechos fundamentales, ahora tienen hasta diciembre de 2027 para seguir las nuevas reglas.

Por otra parte, las compañías que desarrollan aplicaciones de IA con reglas específicas para cada sector, como el juguetero o el medicinal, tendrán incluso más tiempo para adaptarse, hasta agosto de 2028.

Ahora, el Parlamento tendrá que negociar con el Consejo Europeo para implementar las leyes, y será entonces cuando los detalles concretos de la prohibición de las apps que desnudan a mujeres serán decididos.