유니코드 문자 밀수를 통한 LLM 애플리케이션 방어 노트

유니코드 문자 밀수를 통한 LLM 애플리케이션 방어

AI 애플리케이션과 상호 작용할 때, 유니코드 문자처럼 사소해 보이는 요소조차도 보안 및 데이터 무결성에 상당한 영향을 미칠 수 있습니다. Amazon Web Services(AWS)에서는 AI 시스템의 모든 측면에서 발생하는 새로운 위협을 지속적으로 평가하고 해결하고 있습니다. 이 블로그 게시물에서는 U+E0000부터 시작하는 특정 문자 범위인 유니코드 태그 블록에 대해 살펴봅니다. [...]