RSS VentureBeat
Подписаться
Cohere открывает исходный код кодирующего агента, который работает на одном H100.
Cohere выпустила North Mini Code, модель с открытым исходным кодом для агентных кодовых конвейеров. Эта модель "смесь экспертов" с 30 миллиардами параметров эффективно работает на одном H100 и идеально подходит для таких задач, как оркестрация суб-агентов и отображение архитектуры. Она может похвастаться большим контекстным окном в 256 000 токенов и максимальной длиной генерации в 64 000 токенов. North Mini Code специально разработана для рабочих процессов разработки программного обеспечения, включая интегрированное использование инструментов и чередующееся мышление. Она отлично справляется с анализом больших кодовых баз, отображением системных архитектур и проведением ревью кода. Кроме того, модель обучена для выполнения агентных задач на основе терминала, взаимодействия с командами оболочки и инструментами. Cohere обучила ее посредством контролируемой донастройки и обучения с подкреплением на разнообразных агентных каркасах. Несмотря на впечатляющую генерацию выходных токенов, она может быть более многословной, что приводит к более высоким затратам на вывод в сценариях с большим объемом. Этот выпуск представляет собой прямую альтернативу управляемым моделям, таким как Claude Fable 5, делая акцент на локальном развертывании и экономической эффективности. Предприятиям теперь необходимо учитывать целенаправленное обучение агентов и влияние многословности на затраты конвейера. Выбор между North Mini Code и управляемыми услугами представляет собой реальный компромисс между контролем затрат и накладными расходами на инфраструктуру.
