«Доверяй и верь – модели ИИ, обученные видеть «юридический» документ как сверхлегитимный. Исследователи из охранной фирмы Pangea обнаружили еще один способ легко обмануть большие языковые модели (LLM), заставив их игнорировать свои предохранители. Вставьте свои враждебные инструкции куда-нибудь в юридический документ, чтобы придать им вид незаслуженной легитимности – трюк, знакомый юристам всего мира...»