Полное руководство по AI Red-T... Заметка
Analytics Vidhya на русском

Полное руководство по AI Red-Teaming (с туториалом по Garak)

Ранее в этом году автономный ИИ-агент взломал внутреннюю ИИ-платформу McKinsey, используя лишь старую уязвимость SQL-инъекции. Никаких учетных данных. Никакого человеческого руководства. Менее чем за два часа. Он получил доступ к производственным системам, раскрыв миллионы сообщений в чатах и сотни тысяч файлов. Безопасность ИИ изменилась, и традиционные предположения больше не действуют. […]