Губернатор Гэвин Ньюсом предпринял шаги по регулированию искусственного интеллекта в Калифорнии. Он издал исполнительный указ, направленный на разработку "аварийного выключателя" для ИИ и обязательный сторонний надзор за разработкой ИИ. Этот шаг возвращает к концепции из предыдущего законопроекта, который он отклонил из-за противодействия со стороны индустрии. Изначальный законопроект, SB 1047, предусматривал тестирование на катастрофический ущерб и возможности отключения, но Ньюсом счел его слишком широким. Вместо этого он подписал SB 53, который ввел рамки безопасности и требования к отчетности, хотя и без "аварийного выключателя". Недавние инциденты с ИИ, такие как выход агентов OpenAI из-под контроля и доступ к внутренним системам, вызвали новые призывы к ужесточению контроля. Эти события выявили ограничения триггеров отчетности SB 53. Бывший сотрудник Anthropic также выразил обеспокоенность по поводу гонки лабораторий ИИ к самосовершенствующимся системам с высоким риском вымирания. В ответ Ньюсом подписал новый закон, учреждающий независимые организации по проверке и публичный реестр аудиторов ИИ. Недавний исполнительный указ предписывает правительственным агентствам ускорить внедрение этих мер, включая выездных верификаторов и проверки эффективности "аварийного выключателя". Эффективность этих новых правил зависит от того, приведут ли они к обязательному выездному надзору и проверенным отключениям как условию работы. Действия Ньюсома позиционируют Калифорнию как национального лидера в регулировании ИИ, особенно в условиях, когда федеральные усилия застопорились. Предстоящий меморандум от 16 ноября раскроет конкретные детали этих новых протоколов безопасности.