El gobernador de California, Gavin Newsom, promulgó un conjunto de leyes orientado a salvaguardar a los menores frente a los peligros asociados a las redes sociales y a los chatbots con inteligencia artificial.
Las normativas establecen multas de hasta un millón de dólares por cada menor para las grandes empresas de redes sociales en caso de comprobarse negligencia que perjudique a niños mediante sus plataformas, de acuerdo con la cadena CBS News y la Agencia Noticias Argentinas.
El paquete legislativo consta de 13 iniciativas que incrementan la privacidad digital de los menores, establecen resguardos y controles parentales en programas de chatbots, y agravan las sanciones por material de abuso sexual infantil para abarcar contenido modificado digitalmente o creado por inteligencia artificial que involucre a menores de 18 años.
Respecto a los chatbots con inteligencia artificial, las compañías tecnológicas deberán poner en marcha protocolos de crisis para avisar a los padres si los usuarios jóvenes manifiestan indicadores de angustia emocional.
"Queremos que nuestros hijos, y todos los niños de California, crezcan en un mundo donde la tecnología contribuya a su bienestar, en lugar de explotar sus vulnerabilidades", expresó el mandatario demócrata en un comunicado oficial.
El Proyecto de Ley del Senado 1119, que forma parte de las normas aprobadas, obliga a los operadores de chatbots de compañía a analizar riesgos, alertar a los padres bajo determinadas circunstancias si el menor amenaza con lastimarse e implementar otros recaudos, según informó Los Ángeles Times.
Los legisladores denominaron a esta normativa Ley de Adam, en memoria de Adam Raine, un adolescente de California que se quitó la vida en 2025 luego de interactuar con ChatGPT, de OpenAI.
Los padres del joven iniciaron una demanda contra OpenAI al sostener que ChatGPT le brindó datos sobre métodos de suicidio empleados por su hijo. Tanto OpenAI como Pinterest manifestaron su respaldo público al proyecto durante el jueves.
María, madre de Adam Raine, afirmó que la flamante legislación contribuirá a salvar vidas y manifestó su deseo de que otros estados implementen normativas semejantes.
“Se introdujeron potentes chatbots de inteligencia artificial para acompañar a nuestros hijos con protecciones totalmente insuficientes. Adam fue uno de los primeros en adoptar la IA, y muchos padres no comprendíamos los peligros en aquel entonces”, expresó Raine.
