Cohere、H100 1基で動作するコーディングエージェン... ノート
RSS VentureBeat

Cohere、H100 1基で動作するコーディングエージェントをオープンソース化

Cohereは、エージェンティックなコーディングパイプライン向けのオープンソースモデルであるNorth Mini Codeをリリースしました。この300億パラメータのMixture-of-Expertsモデルは、単一のH100で効率的に動作し、サブエージェントのオーケストレーションやアーキテクチャマッピングなどのタスクに最適です。256,000トークンのコンテキストウィンドウと64,000トークンの最大生成長さを誇ります。North Mini Codeは、統合されたツール使用やインターリーブドシンキングを含むソフトウェアエンジニアリングワークフローのために特別に設計されています。大規模なコードベースの分析、システムアーキテクチャのマッピング、コードレビューの実行に優れています。さらに、このモデルは、シェルコマンドやツールとの対話を含む、ターミナルベースのエージェンティックタスクのためにトレーニングされています。Cohereは、多様なエージェントスキャフォールドにわたる教師ありファインチューニングと強化学習を通じてトレーニングしました。印象的な出力トークン生成を提供しますが、より冗長になる可能性があり、高ボリュームのシナリオでは推論コストが高くなる可能性があります。このリリースは、Claude Fable 5のようなマネージドモデルに対する直接的な代替手段を提供し、ローカルデプロイメントとコスト効率を強調しています。企業は現在、目的特化型のエージェンティックトレーニングと、冗長性がパイプラインコストに与える影響を考慮する必要があります。North Mini Codeとマネージドサービスとの選択は、コスト管理とインフラストラクチャオーバーヘッドとの間の実際のトレードオフを示しています。