OpenAI lanza una herramienta capaz de detectar textos generados por inteligencia artificial Manuel Ramírez iStock El Androide Libre

Noticias y novedades

La IA se revuelve contra sí misma: una herramienta ya detecta textos generados por IA

Esta herramienta nueva de los creadores de ChatGPT pretende detectar los textos generados por Inteligencia Artificial y así diferenciar de los creados por una persona. Aunque de momento en castellano tiene sus problemas, tal como claman sus creadores, y que mismamente hemos probado con una poesía de Federico García Lorca.

1 febrero, 2023 11:45

Manuel Ramírez

ChatGPT ha removido el tablero de la tecnología para ir sumergiendo en multitud de experiencias que irán llegando próximamente. Lo curioso de esta noticia, es que los mismos creadores de la inteligencia artificial de ChatGPT, capaz de generar textos sobresalientes, han lanzado una herramienta para detectar los mismos.

[Prueba esta flipante Inteligencia Artificial capaz de clonar tu voz y decir lo que quieras]

Distinguiendo entre un texto escrito por un humano y la IA

Que ChatGPT golpee de tal forma en el mundo de hoy se debe a la estupefacción que está generando entre miles que siguen sorprendidos por su capacidad para responder a preguntas, generar texto o simplemente programar entre otras muchas cosas.

Incluso debido a la demanda generada por el uso de su herramienta, OpenAI, sus creadores, ya trabajan en un servicio premium para así poder sostenerla. Y es que esta inteligencia artificial es capaz de casi todo sin saber todavía sus límites.

We’re developing a new tool to help distinguish between AI-written and human-written text. We’re releasing an initial version to collect feedback and hope to share improved methods in the future. https://t.co/4dQE3dX6vX
— OpenAI (@OpenAI) January 31, 2023

La misma OpenAI acaba de comunicar desde su web que ha lanzado una herramienta capaz de distinguir entre un texto generado por un humano y uno creado por la inteligencia artificial.

Lo han hecho usando un clasificador de textos IA basado en web que predice si el texto ha sido creado por inteligencia artificial. De esta forma se pone coto a todos esos usuarios que están usando ChatGPT para multitud de soluciones sin avisar de su uso.

El clasificador creado por OpenAI El Androide Libre

Que la misma Microsoft siga pujando muy fuerte por esta solución al ampliar el capital invertido y lanzar un mensaje de alto calibre a sus competidores, deja bien claro que una herramienta como la lanzada es vital para identificar textos.

Cómo funciona esta herramienta

OpenAI ha dejado caer algunos detalles de cómo ha entrenado a este clasificador para que sea capaz de diferenciar entre el texto generado por una persona y la IA. También aclara que de momento no es posible que detecte todos los escritos creados por inteligencia artificial, pero sí que es un primer paso importante.

OpenAI El Androide Libre

Sí que ayuda para identificar muchos de ellos y así impedir que los mismos puedan convertirse en difusión de información errónea, deshonestidad académica o chatbots de IA que se puedan hacer pasar por humanos; incluso una web de gran importancia ya la usó para sus publicaciones.

Hay que tener en cuenta una serie de premisas para entender la complejidad y los errores que puede cometer esta nueva herramienta lanzada por OpenAI:

El clasificador tiene problemas para identificar textos cortos (menos de 1.000 caracteres).
El texto generado por un humano puede ser etiquetado incorrectamente como escrito por IA.
Se recomienda su uso solo para texto en inglés, ya que en otros puede funcionar de forma errónea.
El clasificador no puede distinguir texto muy predecible. Un ejemplo de ello sería que no puede determinar si una lista de los mil primeros números primos fue generada por un humano o IA.
El texto generado por IA puede ser alterado para evitar la detección del clasificador y se desconoce si su detección será una ventaja en el tiempo.
Los clasificadores basados en red neural pueden ser calibrados de forma errónea y hacer que sus predicciones sean incorrectas para ciertas entradas que difieran de los datos usados para su entrenamiento.

La probamos: y no se aclara con Lorca

La casada infiel de Lorca El Androide Libre

Como se puede ver, estamos ante un primer inicio para este clasificador que, de momento, no será capaz de identificar siempre si un texto ha sido generado por inteligencia artificial. Tiene sus errores, así que habrá que tomar siempre sus calificaciones con un buen margen de error.

Errores que se pueden encontrar con la poesía La casada infiel de Federico García Lorca al no ser capaz el clasificador de identificar si ha sido creada por una persona o por IA. Ya Open AI ha avisado de que con otros idiomas que no sean el inglés, lo pasa francamente mal. Y de hecho, cuando pasamos esta poesía traducida al inglés, sí identifica que ha sido generada por una persona.

En inglés sí lo identifica bien El Androide Libre

Y realmente la llegada de esta herramienta se dirige principalmente al sector de la educación, donde ya miles de jóvenes están usando ChatGPT para completar exámenes o trabajos de estudio.

De hecho, recomiendan a los educadores y a todo profesional en el entorno de este sector que compartan su opinión debido a la importancia que está teniendo ChatGPT. La idea de OpenAI es desplegar actualizaciones al modelo de lenguaje creado por los mismos en una colaboración muy estrecha con las comunidades que más impacto están recibiendo; como la dicha del sector de la educación.

El sector educativo es una de las comunidades impactadas por ChatGPT iStock El Androide Libre

OpenAI ha compartido la herramienta para que cualquiera pueda probarla desde este enlace al igual que se puede usar ChatGPT, para todo aquel que no ha tenido su momento de experimentar su gran capacidad para la conversación natural y otros menesteres.