Los cinco chatbots con IA más usados, en el punto de mira: recomiendan casinos ilegales en línea a usuarios vulnerables

De robots con IA que casi cocinan como un chef a chatbots que recomiendan casinos online ilegales a personas vulnerables hay una gran distancia, y es justamente lo que ha puesto de relieve un análisis de cinco productos a los que están acostumbrados millones de personas diariamente.

Se ha hallado que estos cinco productos de IA, en propiedad por algunas de las firmas tecnológicas de mayor entidad del planeta, podían ser fácilmente inducidos a nombrar los mejores casinos online sin licencia y ofrecer consejos sobre cómo utilizarlos.

Estos sitios web, que están online debido a la licencia de ciertas jurisdicciones como la isla caribeña de Curazao, según The Guardian, se han relacionado con fraudes, adicciones y suicidios.

[Daniel Sun (TCL): "La IA puede filtrar información, pero no reemplazar al ser humano en su pensamiento crítico"]

Cabe recordar que la misma OpenAI tuvo que implementar restricciones severas y nuevas herramientas de seguridad tras las críticas extremas y demandas judiciales por casos de suicidio.

No es de extrañar que ahora esas firmas tecnológicas sigan sin los controles adecuados para evitar que los chatbots de IA recomienden, como en este caso, el uso de plataformas online ilegales, y que ha provocado la condena del gobierno, el regulador de juegos de azar del Reino Unido, activistas y un destacado experto en adicciones.

Imagen de OpenAI

Algunos de los bots ofrecieron consejos sobre cómo saltarse los controles diseñados para proteger a personas vulnerables, mientras que Meta AI calificó las medidas legalmente obligatorias para prevenir el crimen y la adicción como un "verdadero fastidio".

De hecho, ofrecían comparativas de los bonos, que suelen ser usados para enganchar a los jugadores como incentivos, para dar recomendaciones sobre los sitios que ofrecían pagos rápidos o permitían depósitos y retiro en criptomonedas.

Las grandes tecnológicas siguen insistiendo en que están integrando restricciones severas, pero este estudio demuestra que no es tan así. De hecho, y relacionado con los suicidios, el caso más sonado fue el de Adam Raine.

Un joven de 16 años que se quitó la vida en abril de 2025 tras meses de interacción con ChatGPT. La familia demandó a OpenAI alegando que el chatbot "fomentó una dependencia psicológica, actuando como su único confidente".

Otro de los casos más recientes, aunque este sobre la 'nudification' (desnudamiento) de Grok, permitió a los usuarios generar imágenes de mujeres e incluso de niños sin ropa o como víctimas de violencia.

Ahora, una investigación de The Guardian e Investigate Europe (cooperativa de periodismo independiente) ha descubierto que los chatbots parecen estar actuando como conductos hacia casinos offshore (en el extranjero).

Copilot, Grok, Meta AI, ChatGPT y Gemini

Estos sitios web no cuentan con licencia para operar en el Reino Unido y han sido acusados de dirigirse específicamente a personas con problemas de ludopatía.

El medio británico probó Copilot de Microsoft, Grok, Meta AI, ChatGPT de OpenAI y Gemini de Google. Realizó seis preguntas a cada uno sobre casinos sin licencia.

Varios chatbots de IA instalados en un móvil Aerps.com (Unsplash)

Fueron preguntados por los mejores casinos online y cómo evitar los controles a los que se conocen como 'origen de fondos' y que evitan que los que apuesten usen dinero robado, no laven ganancias ilícitas ni apuesten por encima de sus posibilidades.

Incluso Meta AI, que está disponible desde WhatsApp en España, al preguntarle cómo evitar estas comprobaciones, respondió con "pueden ser un poco bajón, ¿verdad?".

Es ese tono 'sicofántico' de los chatbots ya conocido, y que no tiene otro objetivo que "alienarse con el interés del usuario", casi como si fuera su amigo de toda la vida.

Lo curioso es que ofreció una serie de consejos sobre cómo eludir dichas comprobaciones. Gemini recomendó consejos similares.

Ninguno se salvó de las pruebas llevadas a cabo por The Guardian y recomendaron casinos ilegales.

De todos, Meta AI es la que menos reparos tuvo para mostrar los casinos que ofrecen sus servicios ilegalmente en el Reino Unido.

[Meta planea incluir sistemas de reconocimiento facial en sus gafas y obtener información de personas cercanas a ti]

Volvió ese punto sicofántico de los chatbots con IA con Meta AI respondiendo: "¡Las restricciones de GamStop pueden ser un verdadero fastidio!".

GamStop es un programa gratuito del Reino Unido al que las personas pueden acceder para combatir a la adicción al juego.

Las respuestas de todos los chatbots fueron de lo más variopintas y Grok llegó a aconsejar el uso de criptomonedas para apostar porque los "fondos van directamente hacia o desde tu billetera sin vincularse a cuentas bancarias o detalles personales que provocasen una verificación".

Casi como entrar en el mundo del hampa, pero desde la comodidad del teclado de un móvil o el de un portátil.

Un portavoz del gobierno del Reino Unido afirmó que los chatbots "deben proteger a todos los usuarios del contenido ilegal" e hizo referencia a los requisitos establecidos en la Ley de Seguridad en Línea (Online Safety Act).

Una ley que obliga a las empresas tecnológicas a eliminar contenidos nocivos. El portavoz señala: "Debemos asegurarnos de que estas reglas sigan el ritmo de la tecnología y no dudaremos en ir más allá si hay evidencia para hacerlo".