Как Microsoft защищается от ат... Заметка

Как Microsoft защищается от атак косвенной инъекции промптов

Резюме Растущее внедрение больших языковых моделей (БЯМ) в корпоративные рабочие процессы привело к появлению нового класса техник атак: косвенной инъекции инструкций. Косвенная инъекция инструкций может быть использована против систем, которые используют большие языковые модели (БЯМ) для обработки недоверенных данных. В основе риска лежит возможность того, что атакующий может предоставить специально сконструированные данные, которые БЯМ неправильно интерпретирует как инструкции.