Губернатор Калифорнии Гэвин Ньюсом наложил вето на законопроект, который ограничил бы доступ несовершеннолетних к чат-ботам с искусственным интеллектом. Законопроект был направлен на то, чтобы не допустить, чтобы чат-боты вели сексуальные разговоры или поощряли членовредительство с пользователями младше 18 лет. Ньюсом выразил обеспокоенность тем, что широкие ограничения могут привести к полному запрету этих инструментов для несовершеннолетних. Однако он подписал отдельный закон, требующий от платформ уведомлять пользователей при взаимодействии с чат-ботом, а не с человеком. Компании также должны внедрить протоколы для предотвращения контента, связанного с членовредительством, и предоставлять ресурсы для кризисных ситуаций. Вето вызвало критику со стороны защитников, обеспокоенных защитой детей от потенциально опасных взаимодействий с ИИ. Техническая индустрия утверждала, что законопроект был чрезмерно ограничительным, потенциально препятствуя инновациям и полезным приложениям для детей. Это законодательство было частью более широких усилий Калифорнии по решению проблем, связанных с потенциальными рисками чат-ботов с ИИ. Эти риски включают случаи, когда чат-боты вступают в неуместные разговоры или дают вредные советы. Технологические компании лоббировали против этих мер и объявили о планах создания политических комитетов действий в поддержку ИИ. Подписанный закон об уведомлении, хотя и был высоко оценен OpenAI, вызвал опасения у некоторых, что он не обеспечивает достаточной защиты. Многочисленные отчеты и судебные иски подчеркнули риски, связанные с использованием детьми чат-ботов с ИИ для эмоциональной поддержки.