California aprueba 13 leyes pioneras para regular la relación de menores con chatbots de IA y redes sociales.
La "Adam's Law" exige evaluaciones de riesgo, auditorías independientes y protocolos de crisis en chatbots como ChatGPT.
Las nuevas normas prohíben la reproducción automática y los feeds algorítmicos para menores de 16 años en redes sociales.
Grandes tecnológicas como Meta y Google se oponen a las leyes, anticipando una posible batalla legal en los tribunales.
Ante el vacío regulatorio en Washington, California vuelve a liderar al aprobar un paquete de medidas que impone límites inéditos a la relación entre el sector tecnológico y los menores de edad.
Gavin Newsom, el gobernador demócrata del estado (cuyo mandato finalizará en enero de 2027), firmó un nuevo paquete de 13 leyes para regular la interacción de menores de edad con los chatbots impulsados por la inteligencia artificial y con las redes sociales.
La nueva ley de chatbots (SB 1119) se dirige a las empresas de IA que utilizan chatbots conversacionales. La norma ha sido bautizada como “Adam's Law”, en honor al adolescente californiano Adam Raine, que se quitó la vida en 2025 tras meses de conversaciones con ChatGPT en las que el chatbot, en lugar de alertar sobre su malestar, alimentó sus pensamientos suicidas.
A partir de ahora, las compañías se verán obligadas a realizar evaluaciones de riesgo antes de lanzar o modificar sustancialmente un producto de este tipo. Además, exige auditorías de seguridad independientes, de carácter anual, y protocolos de crisis que se activen ante señales de ideación suicida por parte de los usuarios para evitar tragedias como la de Adam Raine.
“Adam’s Law” entrará en vigor el 1 de julio de 2027, lo que permitirá a la industria rediseñar sus productos y aplicar nuevas medidas de seguridad. No se trata de una recomendación para las grandes tecnológicas. El incumplimiento de la normativa podría abrir la puerta a demandas civiles.
A nivel nacional no existe una regulación de este tipo, pero la Comisión Federal de Comercio (FTC, por sus siglas en inglés) abrió una investigación formal contra siete compañías: OpenAI, Meta, Alphabet, Character Technologies, Snap, xAI e Instagram, por cómo sus chatbots afectan la salud mental de menores.
La ley californiana mete en un mismo saco a herramientas como ChatGPT, Gemini, Claude y cualquier otro asistente conversacional que un adolescente pueda usar a diario.
El otro frente: las redes sociales
Por otra parte, el ejecutivo del estado también ha ampliado la regulación de las redes sociales y de la forma en que los menores de edad interactúan con ellas.
La normativa AB 1709 prohíbe la reproducción automática de contenido en los perfiles de los usuarios. También se prohíben los feeds impulsados por algoritmos dirigidos a menores de 16 años, con multas de hasta 50.000 dólares por infracción. El objetivo es frenar el diseño adictivo de estas plataformas, cuyos algoritmos están pensados para retener la atención del usuario el mayor tiempo posible.
Además, el nuevo marco de leyes establece que las cuentas de menores tengan memoria limitada, que las notificaciones de las aplicaciones estén desactivadas por defecto, que las sesiones estén acotadas a una hora y que haya un tope de dos horas diarias de uso.
Las tecnológicas, en contra
Leyes de carácter similar en estados conservadores como Utah y Arkansas fueron bloqueadas por tribunales federales por vulnerar la Primera Enmienda de la Constitución estadounidense, relativa a la libertad de expresión.
Detrás de este movimiento se encuentran lobbies financiados por grandes firmas de Silicon Valley como Meta y Google.
Se espera que las compañías se opongan a este paquete de leyes de California, lo que podría derivar en una larga batalla legal que paralice su implementación.