クラウドもGPUも不要:Liquid AIの新しいモデルLF... ノート
VentureBeat 日本語

クラウドもGPUも不要:Liquid AIの新しいモデルLFM2.5-2.6Bは、Raspberry Piのような小型デバイスに強力なAIエージェントをもたらします

Liquidは、元MITのコンピュータサイエンティストによって設立されたAIスタートアップで、エージェントタスクに最適化されたオープンウェイト言語モデルであるLFM2.5-2.6Bをリリースしました。このモデルは、スマートフォンからRaspberry Piまで、ローカルハードウェア上で完全に実行できるように設計されており、クラウド推論やGPUの必要性を排除します。この機能は、エッジAIアプリケーションを可能にし、機密データに対するプライバシーを強化します。LFM2.5-2.6Bは、ツール呼び出し、ドキュメント管理、ワークフロー自動化のような、明確に定義された高ボリュームのエージェントタスクに優れています。また、車両やロボット工学のような、接続性が限られた環境にも適しています。このモデルは26億のパラメータと、実質的な128,000トークンのコンテキストウィンドウを備えています。ネイティブなツール呼び出し機能を持ち、主要な推論スタックのサポートとともにHugging Faceで利用可能です。Liquidは、このモデルを大規模なフロンティアモデルの競合相手としてではなく、レイテンシ、プライバシー、コストが最重要視されるソリューションとして位置づけています。LFMアーキテクチャは、実際のCPUパフォーマンスを優先し、Raspberry Piのようなデバイスでも印象的な速度を示します。Liquidは、会話タスクだけでなく、ツールを効果的に使用する能力に焦点を当て、エージェントフレームワークのためにLFM2.5-2.6Bを特別にトレーニングしました。モデルのトレーニングパイプラインには、本番環境のエージェントハーネス内での専用の強化学習フェーズが含まれています。Liquidはまた、バックグラウンドで自律的に動作するアシスタントを目指し、独自のプロアクティブエージェントハーネスを開発しました。LFM2.5-2.6Bのライセンスは、年間収益1,000万ドル未満の組織による商用利用を許可しており、より大規模な企業は別途商用契約が必要となります。ベンチマークでは、LFM2.5-2.6Bは、命令追従およびツール使用タスクにおいて強力なパフォーマンスを示し、その専門分野ではしばしばより大きなモデルを上回っています。
CdXz5zHNQW_Eyqv2GZhf1.png