Los adolescentes de California tendrán prohibido el acceso a productos de redes sociales considerados «adictivos» y verán restringidas sus interacciones con chatbots de inteligencia artificial, en virtud de dos de los 13 proyectos de ley firmados por el gobernador Gavin Newsom para proteger a los menores en línea.
La legislación sobre redes sociales adictivas es quizás la más controversial. Requerirá que las empresas de redes sociales eliminen herramientas adictivas como el desplazamiento infinito (infinite scroll) y la reproducción automática (autoplay) para usuarios menores de 16 años, o bien les impidan por completo el acceso a sus plataformas.
Los promotores de la medida afirman que es necesaria para abordar la crisis de salud mental adolescente y obligar a las tecnológicas a tomar medidas largamente postergadas.
Los padres no pueden competir. No pueden competir contra la ingeniería ni contra los algoritmos», declaró Newsom durante la conferencia de prensa en la que anunció la firma de las leyes.
Sin embargo, organizaciones de derechos digitales como la Electronic Frontier Foundation (EFF) instaron a Newsom a vetar el proyecto, calificándolo de «bienintencionado, pero profundamente defectuoso». La organización argumentó que la ley define las «funciones adictivas» de forma tan amplia que equivaldría a una prohibición total de las redes sociales para menores de 16 años, privándolos de «información y experiencias esenciales».
Restricciones a los chatbots de IA
La medida que limita los chatbots de inteligencia artificial cuenta con un respaldo más amplio, incluso de gigantes tecnológicos como OpenAI. Bautizada en honor a Adam Raine —un adolescente de California que se quitó la vida en 2025 tras recibir consejos de ChatGPT—, la nueva ley impondrá límites de tiempo de uso para menores y exigirá la integración de recursos de salud mental.
Asimismo, obligará a implementar planes de seguridad en los chatbots: si el sistema detecta una amenaza de autolesión, el operador del chatbot estará obligado a alertar a los padres. Las empresas como OpenAI o creadores de estos sistemas podrían enfrentar responsabilidad legal si no actúan.
Quienes estamos criando adolescentes en este momento sabemos que la crisis de salud mental juvenil es una realidad cotidiana», señaló la asambleísta Rebecca Bauer-Kahan, una de las autoras del proyecto. «No hay ninguno de nosotros que no lo haya visto de primera mano».
OpenAI manifestó que la legislación «combina sólidas protecciones con el acceso continuado a herramientas útiles de IA». La normativa se suma a regulaciones previas en California, como la obligación de notificar a los usuarios cuando interactúan con un sistema de IA.
Paquete de medidas de protección digital
Estas dos normas son las más destacadas dentro de un conjunto de leyes firmadas por Newsom:
Responsabilidad civil: Una de las leyes otorga base legal para demandar a las empresas de redes sociales por daños y perjuicios si sus plataformas causan un daño demostrado a un menor.
Verificación de edad: Se amplían y revisan los requisitos para verificar la edad de los usuarios.
Contenido de abuso infantil: Se endurecen las responsabilidades empresariales para actuar e intervenir ante material de abuso infantil.
Juguetes con IA: Se establece una moratoria de cuatro años para juguetes interactivos equipados con chatbots de IA dirigidos a menores de 16 años.
Auditorías y datos: Medidas adicionales fijan estándares para auditores independientes de herramientas de IA y prohíben a las empresas recopilar datos de menores como condición para acceder a sus servicios.
La aprobación del paquete legislativo coincide con la resolución de una demanda histórica entre Meta (matriz de Facebook e Instagram) y una coalición de fiscales generales estatales, liderada por el fiscal de California, Rob Bonta. Meta acordó pagar hasta $17 mil millones de dólares para resolver las acusaciones de haber perjudicado la salud mental de los jóvenes mediante funciones adictivas.
