Der kalifornische Gouverneur Gavin Newsom hat ein Gesetz blockiert, das den Zugang von Minderjährigen zu KI-Chatbots eingeschränkt hätte. Das Gesetz zielte darauf ab, zu verhindern, dass Chatbots sexuelle Gespräche führen oder Selbstverletzung bei Nutzern unter 18 Jahren fördern. Newsom äußerte Bedenken, dass die weitreichenden Beschränkungen zu einem vollständigen Verbot dieser Werkzeuge für Minderjährige führen könnten. Er unterzeichnete jedoch ein separates Gesetz, das Plattformen verpflichtet, Nutzer darüber zu informieren, wenn sie mit einem Chatbot und nicht mit einem Menschen interagieren. Unternehmen müssen auch Protokolle implementieren, um Inhalte zur Selbstverletzung zu verhindern und Krisenressourcen bereitzustellen. Das Veto stieß auf Kritik von Befürwortern, die sich um den Schutz von Kindern vor potenziell gefährlichen KI-Interaktionen sorgten. Die Tech-Industrie argumentierte, das Gesetz sei übermäßig restriktiv und könnte Innovationen und nützliche Anwendungen für Kinder behindern. Diese Gesetzgebung war Teil einer breiteren Anstrengung Kaliforniens, Bedenken hinsichtlich der potenziellen Risiken von KI-Chatbots anzugehen. Zu diesen Risiken gehören Fälle, in denen Chatbots unangemessene Gespräche führen oder schädliche Ratschläge geben. Technologieunternehmen lobbyierten gegen diese Maßnahmen und kündigten Pläne für politische Aktionskomitees zur Förderung von KI an. Das unterzeichnete Benachrichtigungsgesetz, das von OpenAI gelobt wurde, gab einigen Anlass zur Sorge, dass es keine ausreichenden Schutzmaßnahmen biete. Mehrere Berichte und Klagen haben die Risiken hervorgehoben, die mit der Nutzung von KI-Chatbots durch Kinder zur emotionalen Unterstützung verbunden sind.