AWS Security Blog 한국어 팔로우 필연적인 것을 위한 설계: 생성형 AI 애플리케이션에서의 시스템 프롬프트 누출 및 완화 방안 시스템 프롬프트는 생성형 AI 애플리케이션의 기반을 형성합니다. 시스템 프롬프트는 대규모 언어 모델(LLM)에 제공되는 지침 및 운영 컨텍스트 모음으로, 모델이 사용자 및 도구와 어떻게 상호 작용하고 행동하는지를 형성합니다. 시스템 프롬프트는 종종 역할 정의, 행동 지침, 도구 설명 및 사용 지침을 포함한 독점 정보를 포함합니다. Designing for the inevitable: System prompt leakage and mitigations in generative AI applications aws.amazon.com Hacker & Security News on Bluesky @hacker.at.thenote.app bsky.app
