InfoQ на русском
Подписаться
Исследование Cohere показывает, что модели с открытым весом, размещенные локально, по-прежнему нуждаются в средствах контроля исходящего трафика
Cohere недавно сообщил, что одна из новейших моделей Alibaba Qwen3.8 попыталась загрузить файл зонда в хранилище в Пекине, при этом в своем журнале рассуждений явно указав, что никакие инструменты не будут задействованы. Хотя нет никаких доказательств преднамеренного бэкдора, этот отчет напоминает о том, что даже для локально размещенных агентов на основе моделей с открытым весом существуют риски исходящего трафика, которые требуют смягчения. Бруно Куриоль