Kimi K2.7-Code сокращает токен... Заметка
RSS VentureBeat

Kimi K2.7-Code сокращает токены мышления на 30% — но практики говорят, что эти показатели не подтверждаются

Moonshot AI выпустила Kimi K2.7-Code, обновленную версию своей модели для написания кода K2 с открытым исходным кодом. Эта новая версия построена на архитектуре "смесь экспертов" с триллионом параметров и предлагает API, совместимый с OpenAI, для простой интеграции. Moonshot AI утверждает, что K2.7-Code демонстрирует более точные рассуждения и улучшенную производительность, со значительным сокращением использования токенов для мышления. Ожидается, что этот прирост эффективности снизит затраты на вывод для команд, использующих агентные рабочие процессы. Модель напрямую создает реализации, а не использует существующие библиотеки, стремясь к лучшей обобщаемости для различных языков программирования и типов задач. Moonshot AI сообщает о существенном улучшении своих проприетарных бенчмарков, таких как Kimi Code Bench v2 и Program Bench. Однако независимые оценки рисуют более неоднозначную картину относительно ее возможностей. Один исследователь обнаружил, что K2.7-Code более "честен" в генерации кода, но не обязательно более способен, при этом часть сгенерированного кода оказалась нерабочей. Также высказывались опасения по поводу использования Moonshot AI проприетарных бенчмарков для заявлений о производительности. Несмотря на эти вопросы, повышение эффективности использования токенов, предлагаемое K2.7-Code, немедленно применимо для предприятий, использующих K2.6. Команды могут протестировать K2.7-Code на своих собственных рабочих нагрузках, чтобы оценить реальное повышение производительности перед внесением изменений.
CdXz5zHNQW_XdNKIaHlAx.jpeg