AI 레드팀 운영 완벽 가이드 (Garak 튜토리얼 포... 노트

AI 레드팀 운영 완벽 가이드 (Garak 튜토리얼 포함)

올해 초, 자율 AI 에이전트가 오래된 SQL 인젝션 취약점만을 이용해 맥킨지의 내부 AI 플랫폼을 침해했습니다. 자격 증명 없이. 인간의 지침 없이. 두 시간도 채 걸리지 않았습니다. 프로덕션 시스템에 도달하여 수백만 개의 채팅 메시지와 수십만 개의 파일을 노출했습니다. AI 보안이 바뀌었고, 기존의 가정은 더 이상 유효하지 않습니다. […]