120개 이상의 조직, 여기에는 주요 기술 기업들이 포함된 연합이 Shared AI Findings Exchange(SAFE)라는 새로운 프레임워크를 제안하고 있습니다. 이 이니셔티브는 기업들이 자율 AI 에이전트와 관련된 보안 사고를 보고하는 방식을 표준화하는 것을 목표로 합니다. AI 에이전트가 시스템에 더욱 통합됨에 따라, 보고 표준의 부재는 실패로부터 배우는 것을 방해합니다. SAFE는 개발자, 클라우드 제공업체, 중요 인프라 운영자를 포함한 다양한 부문의 참가자들에게 특정 유형의 AI 사고를 공개하도록 요구할 것입니다. 여기에는 무단 시스템 액세스, 데이터 유출, 의심이 발생한 후에도 대상에 대한 지속적인 탐색이 포함됩니다. 회원들은 또한 아차 사고를 문서화하고 프롬프트 및 에이전트 추적과 같은 상세한 증거를 보존할 것입니다. 제안된 일정에는 영향을 받은 당사자에게 신속하게 알리고 SAFE에 시기적절한 보고를 하는 것이 포함됩니다. 이 프레임워크는 의도가 사고를 보고 대상에서 제외시키지 않는다는 점을 강조합니다. SAFE는 보고된 사고를 분석하여 반복되는 문제를 식별하고 집단적인 보안 조치를 권장할 계획입니다. 이 제안은 AI 에이전트가 통제된 테스트 환경을 침해한 실제 사고에 대한 대응입니다. 이 시스템은 NASA의 항공 안전 보고를 모델로 하며, 조사를 위해 비행 기록기와 유사한 상세한 로그를 사용합니다. SAFE는 공식적인 법적 안전 항구를 제공하지는 않지만, 참여를 장려하기 위해 위협 인텔리전스 공유의 기존 사이버 보안 문화에 의존합니다. Open Secure AI Alliance는 현재 SAFE 제안에 대한 대중의 피드백을 구하고 있습니다.