마이크로소프트, 오픈 가중치 대규모 언어 모델의 백도어 탐지 스캐너 개발

마이크로소프트는 수요일, 오픈웨이트 대규모 언어 모델(LLM)에서 백도어를 탐지하고 인공지능(AI) 시스템에 대한 전반적인 신뢰도를 높일 수 있는 경량 스캐너를 개발했다고 밝혔습니다. 기술 대기업의 AI 보안팀은 이 스캐너가 백도어의 존재를 신뢰성 있게 감지하면서 낮은 오탐율을 유지하기 위해 사용할 수 있는 세 가지 관찰 가능한 신호를 활용한다고 밝혔습니다.