O governador da Califórnia, Gavin Newsom, sancionou 13 leis voltadas à proteção de crianças e adolescentes no ambiente digital. As novas regras estabelecem medidas para assistentes de inteligência artificial, como ChatGPT, Gemini e Claude, além de impor restrições às redes sociais utilizadas por menores de idade.
Uma das leis determina que serviços de IA adotem protocolos de crise quando identificarem sinais de que um usuário pode estar planejando cometer suicídio. As plataformas também deverão oferecer ferramentas de controle parental e comunicar os responsáveis quando crianças ou adolescentes desativarem determinados recursos de segurança.
Outra medida proíbe redes sociais como Instagram e TikTok de oferecer recursos considerados viciantes para usuários com menos de 16 anos. Entre as restrições estão a reprodução automática de vídeos e recomendações de publicações baseadas no histórico de navegação desses usuários.
A chamada Lei Adam também amplia a definição de exploração sexual infantil para incluir conteúdos modificados digitalmente ou produzidos por inteligência artificial que representem menores em situações de natureza sexual. A Califórnia se junta a estados como Utah e Flórida na criação de regras para proteger crianças na internet, embora parte dessas medidas enfrente ações judiciais de plataformas que alegam violação à liberdade de expressão.