Primer detenido por usar ChatGPT: usó la inteligencia artificial para crear noticias falsas

Las autoridades de China han detenido a un sujeto que difundía noticias prefabricadas con la herramienta de OpenAI por redes sociales.

10 mayo, 2023 17:35

Manuel Fernández

Uno de los mayores temores que los expertos tienen en lo que a inteligencia artificial se refiere es al asunto de la desinformación. En España y a nivel internacional, numerosísimos especialistas han detallado cómo usuarios podrían aprovechar la potencia de la IA para lanzar bulos, fake news y en general difundir información falsa. Según recoge Reuters, ya hay un detenido por culpa de ChatGPT en China.

Un hombre de la provincia de Gansu. China, ha sido detenido por usar supuestamente ChatGPT para generar historias falsas sobre accidentes. Más concretamente, el sujeto habría generado una noticia completamente inventada por ChatGPT sobre un accidente de tren, lo que ha llevado a las autoridades de Beijing a arrestarle.

Este es el primer arresto de China en una investigación relacionada con la inteligencia artificial. Recordemos que en dicho país están siendo promulgadas leyes que busquen frenar el uso de las IAs generativas para publicar información falsa en redes sociales y en Internet.

Arrestado por ChatGPT

Todo comienza con una serie de cuentas de la plataforma Baijiahao, una plataforma al estilo blog propiedad de Baidu, un titán tecnológico de China. Hasta 25 cuentas habrían reportado el accidente falso generado con ChatGPT desde distintas ubicaciones, tal y como especifican las autoridades de Pingliang en un comunicado.

En dicha noticia, se podía leer que un supuesto accidente mató a nueve trabajadores en una construcción de la ciudad al noroeste de Gansu. Esta noticia obtuvo más de 15.000 interacciones después de ser publicada en redes sociales el pasado 25 de abril. El sospechoso, poco después, fue identificado y arrestado por inventarse esta noticia.

Fotomontaje con una imagen de una IA y con el logo de OpenAI. Manuel Fernandez | ArtemisDiana en iStock iStock | Omicrono

La policía se dedicó a rastrear las IPs de estas cuentas y descubrió que la compañía del sospechoso, con apellido Hong, estaba detrás de las mismas. Hong se habría dedicado a editar estas noticias generándolas por ChatGPT y las subió a la red social. Por el momento, no se sabe qué tipo de condena sufrirá el acusado, y por ahora las autoridades no dan mucha más información.

Este es un suceso más que envuelve a ChatGPT y en general a OpenAI, su empresa desarrolladora. La herramienta ya está en el punto de mira de los organismos de regulación, y países como España ya se han dispuesto a investigar la herramienta debido a acusaciones de vulneración de protección de datos y publicación de contenidos desinformativos.