세계 최고의 AI 모델들이 어떻게 부활했는가 노트
RSS Axios

세계 최고의 AI 모델들이 어떻게 부활했는가

트럼프 행정부와의 분쟁으로 인해 세계에서 가장 강력한 AI 모델들이 상당한 차질을 겪었습니다. 이는 Anthropic의 파트너이자 투자자인 Amazon이 Anthropic의 최신 모델인 Mythos와 Fable에서 "탈옥" 취약점을 보고하면서 발생했습니다. Amazon의 우려는 광범위한 미국 수출 통제를 촉발했고, 이로 인해 모델들이 20일 동안 오프라인 상태가 되었습니다. 이후 사이버 보안 전문가들은 다른 선도적인 AI 모델에서도 유사한 문제가 존재한다고 주장했습니다.상무부 장관 Howard Lutnick은 Anthropic CEO Dario Amodei에게 임박한 수출 통제에 대해 알리고, 모델을 공개 접근에서 제외시키려는 의도를 명확히 했습니다. 이에 따라 인식된 안전 문제 해결을 위해 여러 정부 기관과 Anthropic 엔지니어들이 참여하는 3주간의 집중적인 노력이 이루어졌습니다. Anthropic의 노력과 기술적 개선에도 불구하고, 연방 기관들은 초기에는 변경 사항이 불충분하다고 판단했습니다.정부 내부 및 Anthropic과의 성격 차이와 소통 단절로 인해 상황이 악화되었습니다. 재무부 장관 Scott Bessent는 조기에 경보를 울리고 Anthropic과의 재협력을 촉진하는 데 역할을 했습니다. 국가안보국(NSA) 및 백악관 과학기술정책실(OSTP) 관계자를 포함한 다양한 정부 관계자들이 기술 토론에 참여했습니다.결과적으로, 추가적인 수정 및 승인 후 Anthropic의 모델은 7월 1일에 재출시되었습니다. 그러나 이 사건은 AI 안전 규제의 복잡성을 강조했으며, 동맹국에 대한 향후 모델 출시 가능성에 대한 의문을 제기했습니다. 또한 이 사건은 업계 전반에 걸쳐 향후 AI 모델 승인을 위한 명확하고 투명한 프레임워크의 부재를 강조했습니다.
CdXz5zHNQW_KoYnjaD1Mt.jpeg