Сколько вредоносных документов... Заметка

Сколько вредоносных документов нужно, чтобы отравить LLM? Гораздо меньше, чем вы думаете, предупреждает Anthropic.

Исследование Anthropic показывает, что всего 250 вредоносных документов достаточно, чтобы отравить огромные модели ИИ.
CdXz5zHNQW_FLl7VNW0qM.jpeg