RSS Axios
Подписаться
Новая модель с открытым исходным кодом в Китае ускоряет угрозу взлома ИИ
GLM-5.2, новая китайская модель ИИ с открытым исходным кодом, вызывает опасения из-за своих продвинутых возможностей взлома, делая сложные атаки более доступными и дешевле для злоумышленников. Он конкурирует с ведущими американскими моделями, такими как Claude Opus 4.8 и GPT-5.5 от OpenAI, по агентным возможностям, но стоит вдвое дешевле в эксплуатации. Оценки безопасности подтвердили её высокие результаты в расследованиях кибербезопасности и в эталонах выявления уязвимостей. Исследователи предполагают, что GLM-5.2 может быть незаконной дистилляцией GPT-5.5 и Opus 4.8, что объясняет его быстрое развитие. В отличие от коммерческих моделей, GLM-5.2 можно скачать и модифицировать, что позволяет пользователям снимать системы безопасности и работать без коммерческого контроля. Хакеры активно обсуждают, как сделать джейлбрейк GLM-5.2 с вредоносными целями на русскоязычных форумах. Модель позволяет осуществлять персонализированные атаки, позволяя горизонтальное перемещение и использовать цепочку, аналогичную элитным человеческим атакующим. Злоумышленники также могут получить объяснение модели, как обойти собственные ограничения. Существует меньше механизмов для предотвращения злоупотреблений с открытой моделью по сравнению с коммерческими платформами, такими как ChatGPT, где провайдеры могут обнаруживать и блокировать пользователей. GLM-5.2 устраняет барьеры для хакеров, позволяя создавать собственные вредоносные инструменты, такие как фишинговые генераторы электронной почты и скрипты мошенничества локально. Хотя текущие эксплойты, созданные ИИ, могут быть не слишком сложными, потенциал для увеличения масштаба с помощью ИИ и LLM растёт. Z.ai планирует выпустить модель с открытым исходным кодом, конкурирующую с Fable от Anthropic, к концу года, при этом другие китайские компании также будут разрабатывать продвинутые модели.