Писатель заявляет, что его нов... Заметка
VentureBeat на русском

Писатель заявляет, что его новая модель Palmyra X6 сокращает расходы на ИИ-агентов на 52% на фоне роста расходов на токены

Writer представила свою новую флагманскую модель искусственного интеллекта Palmyra X6, призванную снизить затраты и повысить эффективность корпоративных ИИ-агентов. Эта модель является дообученной версией GLM-5.2, модели с открытым весом от Z.ai. Writer подчеркивает, что Palmyra X6 полностью работает на инфраструктуре США и не связана со своими первоначальными разработчиками. Анонс сделан в то время, когда стоимость ИИ-агентов, использующих токены для сложных операций, является серьезной проблемой для бизнеса. В отличие от чат-ботов, агенты выполняют многоэтапные процессы, что приводит к большему потреблению токенов и, следовательно, к увеличению расходов. Goldman Sachs прогнозирует значительный рост потребления токенов, подчеркивая необходимость управления затратами. Технический директор Writer заявил, что предприятия стремятся к более широкому внедрению, но нуждаются в стабилизации затрат. Стоимость, а не возможности модели, определяется как основное препятствие для расширения корпоративного ИИ. Writer считает, что, снижая стоимость каждой задачи, они расширяют общий доступный рынок для автоматизации с помощью ИИ. Palmyra X6 — это большая модель "смесь экспертов", дообученная с использованием новой техники, называемой "привязанным контролируемым дообучением", на небольшом высококачественном синтетическом наборе данных. Этот метод позволяет настроить поведение агента без ущерба для общих возможностей базовой модели. Writer утверждает, что Palmyra X6 превосходит ведущие модели по внутренним бенчмаркам и имеет значительно более низкую цену. Компания также выделяет свою перестроенную систему оркестровки агентов "harness", которая самостоятельно снижает затраты и ускоряет выполнение задач на различных моделях. Стратегия Writer включает предложение собственной оптимизированной модели, а также поддержку сторонних моделей через свою платформу, предоставляя гибкость ИТ-руководителям. Также представлены новые инструменты управления, которые предоставляют администраторам лучшую видимость и контроль над расходами на ИИ.