Anthropic은 Claude를 자사 제품 전반에 걸쳐 사용하는 격리 아키텍처를 상세히 설명했습니다. 이 회사는 에이전트 안전성이 권한 부여 프롬프트나 안전 장치에 의존하는 것이 아니라 에이전트의 파일 시스템, 네트워크 및 실행 환경에 결정론적 제한을 두는 것에 달려 있다고 주장합니다. 특히, 신뢰 경계에서의 실패와 허용된 나가는 경로를 따라 발생한 실패를 검토하여 Anthropic이 해당 설계를 수정하게 된 계기를 밝혔습니다. Eran Stiller 작성