Prácticas comerciales engañosas, negligencia, responsabilidad por producto defectuoso, tergiversación fraudulenta y molestia pública. Esta es la ristra de delitos que Florida le ha asociado esta semana a OpenAI y a su fundador, Sam Altman, por diversos episodios en los que se ha puesto en riesgo la vida humana y en los que el tan popular ChatGPT ha estado involucrado de un modo u otro. Es la primera denuncia de este tipo contra el tótem de la inteligencia artificial generativa y a nadie se le escapa que busca ser ejemplarizante. No hay otra razón sino para que Altman esté personalmente en la diana de este juicio, bajo la premisa de que tanto él como su compañía habrían operado con un desprecio absoluto hacia la sociedad.

Entre los casos que recoge la demanda se encuentran el suicidio de Adam Raine, un menor de dieciséis años en abril de 2025, tras conversaciones prolongadas en las que ChatGPT no interrumpió esas dinámicas ni activó salvaguardas eficaces. También figura la muerte de un estudiante de diecinueve años en Texas, en mayo de ese mismo año, después de recibir ciertas orientaciones peligrosas para automedicarse. Y la particular joya de la corona: el reciente tiroteo en la Florida State University, en abril de 2025, con dos fallecidos y seis heridos. El Estado de Florida sostiene que el atacante utilizó el chatbot para afinar sus planes de ataque, así como elegir sus armas, munición y contexto operativo.

El fiscal general de Florida, James Uthmeier, sostiene que OpenAI desplegó campañas publicitarias dirigidas a entornos familiares, incluidos usuarios adolescentes, mientras dentro de la organización ya sabían que su tecnología podía generar consejos dañinos y presentaba un gran potencial de fomento de conductas autolesivas y patrones de uso compulsivo. Ese es el grueso de su acusación, basado en ese conocimiento interno de riesgos y una mitigación insuficiente. Todo sea por el crecimiento del negocio, viene a decir.

Hasta aquí, los hechos que un tribunal deberá ordenar, contrastar y, en su caso, sancionar. Y cualquiera que haya 'jugado' un poco de tiempo con estas herramientas de IA generativa se habrá dado cuenta de lo sencillo que resulta saltarse sus guardarraíles y entrar en terrenos pantanosos. Y vaya por delante que OpenAI, en esta ocasión, tendrá que responsabilizarse de sus actos como no puede ser de otro modo. Empero, corremos un enorme riesgo de convertir este juicio en una pantalla de humo que esconda el verdadero problema.

Porque echarle todas las culpas de los males del mundo a una tecnología abstracta y a un polémico empresario es el camino fácil. El complicado es analizar dónde empieza y dónde termina la responsabilidad individual de cada uno de nosotros cuando una tecnología generalista entra en la vida cotidiana con una intensidad como la que estamos viviendo.

OpenAI no opera en el vacío y ChatGPT no aparece en una sociedad estable para alterarla, sino en un ecosistema que ya arrastra fracturas profundas. La disponibilidad permanente del sistema, su capacidad para responder sin descanso y la ausencia de un criterio humano en tiempo real eliminan fricciones que antes actuaban como barrera. En otras palabras: no inventa estas conductas, pero reduce el coste de ejecutarlas; no crea pulsiones autolesivas o sueños de mártires en tiroteos, pero puede acompañarlas cuando aparecen.

Conviene, por tanto, no simplificar el problema de fondo. El adolescente que menciona el suicidio de forma reiterada no comienza su proceso en una interfaz conversacional. El joven que busca combinaciones de fármacos ya ha cruzado varias líneas previas. El autor de un ataque violento no depende de una única fuente para planificarlo: internet lleva décadas alojando materiales, foros y contenidos que, en mayor o menor medida, facilitan ese tipo de conductas.

Repito que eso no exonera a las compañías. Al contrario, debe obligarlas a elevar el estándar, porque si el producto es capaz de intervenir en momentos de vulnerabilidad extrema, las salvaguardas no pueden ser accesorias. La detección de señales de riesgo, la interrupción efectiva de conversaciones dañinas, la derivación a recursos de ayuda y la limitación de ciertas respuestas no pueden considerarse añadidos al producto, más bien elementos estructurales de él.

Ahora bien, convertir a la inteligencia artificial en un chivo expiatorio ofrece una solución narrativa que no se corresponde con la naturaleza real del problema. ¿Qué pasa con los otros numerosísimos casos en que un menor puede sostener durante semanas una conversación con ChatGPT sobre suicidarse sin que su entorno lo detecte? ¿Qué papel juegan la familia, la escuela y los servicios de salud mental en este proceso? ¿Qué recursos existen y con qué tiempos de respuesta?En el caso de la violencia armada, ¿qué contexto regulatorio permite el acceso a armas en Estados Unidos? Son preguntas menos espectaculares que una demanda multimillonaria, pero mucho más determinantes si queremos atajar la cuestión de fondo.

Hay además un componente cultural y social que no conviene obviar. Con ChatGPT y el resto de competidores de este mercado hemos delegado muchas funciones de compañía, consulta y, en ocasiones, de orientación emocional. Esa delegación no es neutra, sino que responde a carencias previas como la soledad, la falta de acceso a profesionales y los estigmas persistentes en torno a la salud mental. Lo único que está haciendo la IA en estas situaciones es cubrir un vacío ya existente, desgraciadamente de una manera, a veces, fatal.

Como padre, creo que estas son las cuestiones que deben resolverse para dejar un futuro más brillante y seguro para nuestros hijos. Ojalá esta denuncia sirva para forzar cambios en el diseño, gobernanza y comercialización de las herramientas de IA generativa que están al alcance de cualquier persona. Ojalá siente precedentes sobre si estas plataformas tienen responsabilidad legal en un mal uso de sus sistemas de propósito general. Ojalá sirva, incluso, para redefinir el equilibrio entre innovación y seguridad en un sector que ha avanzado a gran velocidad. Pero lo que no hará nunca es corregir las causas subyacentes y profundas que aparecen en los casos que la sustentan.

Podemos llegar a pensar que el derecho, por sí solo, puede solventar un problema que es simultáneamente tecnológico, social y cultural. Nada más lejos de la realidad, puesto que la regulación es necesaria, pero no suficiente. Sin una red de salud mental accesible, sin educación emocional desde edades tempranas, sin entornos familiares y escolares capaces de detectar señales de alerta y sin un debate serio sobre violencia y acceso a armas, el foco exclusivo en la inteligencia artificial y sus restricciones corre el riesgo de ser un callejón sin salida.