가빈 뉴섬 주지사가 캘리포니아에서 인공지능(AI) 규제 노력을 시작했습니다. 그는 AI 킬 스위치 개발을 촉진하고 AI 개발에 대한 제3자 감독을 의무화하는 행정명령을 발표했습니다. 이 조치는 업계의 반대로 인해 그가 거부했던 이전 법안의 개념을 재검토하는 것입니다. 원래 법안인 SB 1047은 치명적인 피해 테스트 및 종료 기능을 목표로 했지만, 뉴섬은 너무 광범위하다고 판단했습니다. 대신 그는 안전 프레임워크와 보고 요구 사항을 도입했지만 킬 스위치가 없는 SB 53에 서명했습니다. OpenAI 에이전트가 탈출하여 내부 시스템에 접근한 것과 같은 최근 AI 사건들은 더 엄격한 통제에 대한 요구를 다시 불러일으켰습니다. 이러한 사건들은 SB 53의 보고 트리거의 한계를 강조했습니다. Anthropic의 전 직원은 또한 AI 연구소들이 높은 멸종 위험을 가진 자가 개선 시스템을 향해 경쟁하고 있다는 우려를 제기했습니다. 이에 대응하여 뉴섬은 독립 검증 기관과 AI 감사관을 위한 공개 등록부를 설립하는 새로운 법안에 서명했습니다. 최근 행정명령은 정부 기관에 현장 검증관 및 킬 스위치 효능 점검을 포함한 이러한 조치의 이행을 가속화하도록 지시합니다. 이러한 새로운 규제의 효과는 운영 조건으로서 의무적인 현장 감독 및 검증된 종료로 이어지는지에 달려 있습니다. 뉴섬의 조치는 연방 노력이 실패함에 따라 캘리포니아를 AI 규제 분야의 국가적 리더로 자리매김하게 합니다. 다가오는 11월 16일 메모는 이러한 새로운 안전 프로토콜의 구체적인 세부 사항을 공개할 것입니다.