ライターは、トークン支出が急増する中、新しいPalmyra ... ノート
VentureBeat 日本語

ライターは、トークン支出が急増する中、新しいPalmyra X6モデルがAIエージェントのコストを52%削減すると述べている

Writerは、エンタープライズAIエージェントのコスト削減と効率向上を目指した新しいフラッグシップAIモデル「Palmyra X6」を発表しました。このモデルは、Z.aiのオープンウェイトモデルであるGLM-5.2のポストトレーニングバージョンです。Writerは、Palmyra X6が完全に米国インフラストラクチャ上で実行され、元の開発者とは異なることを強調しています。この発表は、複雑な操作にトークンを使用するAIエージェントのコストが、企業にとって大きな懸念事項となっている時期に行われました。チャットボットとは異なり、エージェントは複数ステップのプロセスを実行するため、トークン消費量が増加し、それに伴って費用も増加します。Goldman Sachsはトークン消費量の大幅な増加を予測しており、コスト管理の必要性を強調しています。WriterのCTOは、企業は導入の増加を望んでいるが、コストの安定化が必要だと述べています。モデルの能力ではなく、コストがエンタープライズAIの拡大における主な障害であると特定されています。Writerは、タスクあたりのコストを下げることで、AI自動化の総獲得可能市場を拡大していると考えています。Palmyra X6は、大規模なMixture-of-Expertsモデルであり、高品質な小規模な合成データセットで、Anchored Supervised Fine-Tuningと呼ばれる新しい手法を用いてファインチューニングされています。この手法により、ベースモデルの汎用的な能力を損なうことなく、カスタマイズされたエージェント的な動作が可能になります。Writerは、Palmyra X6が内部ベンチマークで主要なモデルを上回り、大幅に低い価格で提供されると主張しています。同社はまた、さまざまなモデルにわたってコストを削減し、タスクを高速化する再構築されたエージェントオーケストレーション「ハーネス」も強調しています。Writerの戦略は、独自の最適化されたモデルを提供する一方で、プラットフォームを通じてサードパーティモデルも利用可能にし、ITリーダーに柔軟性を提供することを含みます。新しいガバナンスツールも導入され、管理者はAI支出に対する可視性と制御を向上させることができます。