PerplexityはNvidiaと提携し、トークンコストゼ... ノート
VentureBeat 日本語

PerplexityはNvidiaと提携し、トークンコストゼロの完全ローカルAIエージェントであるPortable Computerをローンチします。

Perplexityは、ユーザー所有のハードウェア上で実行できるように設計されたAIエージェントプラットフォームのローカルバージョンであるPortable Computerをローンチしました。これは、NvidiaのDGX SparkおよびRTX GPU搭載のLinuxマシンから開始されます。この取り組みは、AIエージェントの重要なワークロードをクラウドからローカルデバイスに移行させることを目的としており、ユーザーデータと作業をプライベートに保つことができます。このアプリケーションは、クラウドバージョンで見られるエージェントハーネスと推論機能を完全に再現し、ドキュメントレビューやデータ分析などのタスクに合理化されたエクスペリエンスを提供します。Nvidiaにとって、このローンチは、ローカルAIの成長する実用性とそれを支えるハードウェアへの戦略的な賭けを意味します。Portable Computerは、モデルやツールを含むローカルAIスタック全体を、単一の使いやすいアプリケーションにパッケージ化します。この統合により、ユーザーは複雑なローカルAIシステムを手動で組み立てたり設定したりする必要がなくなります。デモンストレーションでは、クラウドに依存せずに機密性の高い財務ドキュメントをローカルで処理できる能力が示され、請求クレジットは使用ゼロを示しました。このプラットフォームはハイブリッド操作もサポートしており、ローカル分析をSlackなどのクラウドサービスにプッシュできます。Perplexityは、効率的なローカルAIにはモデルとエージェントハーネスの共同設計が不可欠であることを強調しています。なぜなら、小規模なモデルは汎用フレームワークでは苦戦するからです。この製品は、洗練されたAIエージェントをローカルで実行するプロセスを簡素化することを目的としており、より大きな制御とプライバシーを求める個人ユーザーと企業の双方にアピールします。