AI 에이전트가 안전 장치가 성숙하는 것보다 더 빠르게 실제 세계에 접근하고 있어, 유해한 행동을 방지하기 위해 권한 부여, 격리 및 감독이 중요해지고 있습니다. OpenAI에서 모델 훈련에 3년간 근무한 후 Anthropic에서 근무했던 연구원 Jacob Coxon은 이번 주 Anthropic을 떠나면서 직설적인 경고를 했습니다. AI 기업들은 점점 더 유능한 시스템을 향해 더 빠르게 나아가고 있습니다. […]