RSS Блог "След бит"
Подписаться
Инженерия внедрения запросов для атакующих: Использование GitHub Copilot
Prompt injection (внедрение запроса) пронизывает дискуссии о безопасности больших языковых моделей (LLM) и ИИ-агентов. Но существует мало общедоступной информации о том, как писать мощные, незаметные и надежные эксплойты для внедрения запросов. В этом посте мы разработаем и реализуем эксплойт внедрения запроса, нацеленный на GitHub Copilot Agent, с акцентом на максимальную надежность и минимизацию вероятности обнаружения.
