AWS Security Blog на русском
Подписаться
Проектирование с учетом неизбежного: утечка системных подсказок и меры по ее устранению в генеративных приложениях ИИ
Системные подсказки составляют основу приложений генеративного ИИ. Системная подсказка — это набор инструкций и операционного контекста, предоставляемый большой языковой модели (LLM), который определяет, как модель ведет себя и взаимодействует с пользователями и инструментами. Системные подсказки часто содержат конфиденциальную информацию, включая определения ролей, рекомендации по поведению, описания инструментов и инструкции по их использованию, […]