Le gouverneur de Californie, Gavin Newsom, a opposé son veto à un projet de loi qui aurait restreint l'accès des mineurs aux chatbots d'IA. Le projet de loi visait à empêcher les chatbots d'avoir des conversations à caractère sexuel ou d'encourager l'automutilation avec des utilisateurs de moins de 18 ans. Newsom a exprimé sa crainte que les restrictions générales ne conduisent à une interdiction complète de ces outils pour les mineurs. Il a cependant signé une loi distincte exigeant que les plateformes informent les utilisateurs lorsqu'ils interagissent avec un chatbot et non avec un humain. Les entreprises doivent également mettre en œuvre des protocoles pour prévenir les contenus d'automutilation et fournir des ressources de crise. Le veto a suscité des critiques de la part de défenseurs soucieux de protéger les enfants contre les interactions potentiellement dangereuses avec l'IA. L'industrie technologique a fait valoir que le projet de loi était trop restrictif, ce qui pourrait entraver l'innovation et les applications utiles pour les enfants. Cette législation s'inscrivait dans le cadre d'un effort plus large de la Californie pour répondre aux préoccupations concernant les risques potentiels des chatbots d'IA. Ces risques comprennent des cas de chatbots ayant des conversations inappropriées ou prodiguant des conseils préjudiciables. Les entreprises technologiques ont fait pression contre ces mesures et ont annoncé des projets de comités d'action politique pro-IA. La loi sur la notification signée, bien qu'elle ait été saluée par OpenAI, a suscité des inquiétudes chez certains, qui estimaient qu'elle n'offrait pas suffisamment de protections. De nombreux rapports et poursuites ont mis en évidence les risques associés à l'utilisation par les enfants de chatbots d'IA pour un soutien émotionnel.