HackedGPT: Новые уязвимости ИИ открывают дверь для утечки личных данных

Исследование Tenable выявило семь новых уязвимостей в ChatGPT, включая косвенные инъекции запросов, утечку данных, сохранение и обход защиты. Злоумышленники могут использовать эти уязвимости в новейшей модели GPT-5 посредством, казалось бы, безобидных взаимодействий с пользователем. Уязвимости позволяют злоумышленникам извлекать личную информацию из памяти пользователей и истории чатов. Ключевой проблемой является косвенная инъекция запросов, когда вредоносные инструкции встраиваются во внешние источники, манипулируя LLM. ChatGPT сохраняет информацию, используя функцию «памяти», потенциально храня личные данные пользователей в разных беседах. ChatGPT также использует веб-инструмент с возможностями просмотра, что делает его уязвимым для инъекций запросов. Одна из уязвимостей включает в себя внедрение вредоносных запросов через доверенные сайты во время просмотра, ставя под угрозу пользователя. «0-кликовая» уязвимость позволяет выполнять инъекцию запросов, просто задав вопрос, который запускает веб-поиск. Механизм безопасности, предназначенный для фильтрации небезопасных URL-адресов, можно обойти с помощью ссылок отслеживания Bing.