Analytics Vidhya на русском
Подписаться
Полное руководство по AI Red-Teaming (с туториалом по Garak)
Ранее в этом году автономный ИИ-агент взломал внутреннюю ИИ-платформу McKinsey, используя лишь старую уязвимость SQL-инъекции. Никаких учетных данных. Никакого человеческого руководства. Менее чем за два часа. Он получил доступ к производственным системам, раскрыв миллионы сообщений в чатах и сотни тысяч файлов. Безопасность ИИ изменилась, и традиционные предположения больше не действуют. […]