Проектирование с учетом неизбе... Заметка

Проектирование с учетом неизбежного: утечка системных подсказок и меры по ее устранению в генеративных приложениях ИИ

Системные подсказки составляют основу приложений генеративного ИИ. Системная подсказка — это набор инструкций и операционного контекста, предоставляемый большой языковой модели (LLM), который определяет, как модель ведет себя и взаимодействует с пользователями и инструментами. Системные подсказки часто содержат конфиденциальную информацию, включая определения ролей, рекомендации по поведению, описания инструментов и инструкции по их использованию, […]
CdXz5zHNQW_NRnwbkDoZ1.png