生成AIの影響は拡大していますが、真の支援を実現するには、個人用デバイス上で動作させる必要があります。課題は、複雑なAIを、電力制約のあるエッジデバイスに組み込み、プライベートな終日利用を可能にすることです。これには、パフォーマンスギャップ、ハードウェアの断片化、ユーザーの信頼性の問題を解決する必要があります。Googleは、プライベートで効率的なエッジAIデバイス向けに設計されたフルスタックプラットフォームであるCoral NPUを発表します。これは、超低消費電力で常時オンのAIを実現するために構築されたAIファーストのハードウェアアーキテクチャを提供し、ウェアラブルデバイスのバッテリー消費を最小限に抑えます。Coral NPUは、効率的なオンデバイス推論のためにMLマトリックスエンジンを優先することで、従来のチップ設計を覆します。このアーキテクチャは、最小限の消費電力でRISC-V準拠のIPブロックを使用し、数ミリワットで512 GOPSを達成します。スカラーコア、ベクトル実行ユニット、マトリックス実行ユニットを備えた、オープンで拡張可能な設計が特徴です。Coral NPUは、最新のコンパイラとMLフレームワークとのシームレスな統合により、統一された開発者エクスペリエンスを提供します。このプラットフォームは、エンコーダーベースのアーキテクチャと小型トランスフォーマーモデルの両方に最適化されており、LLMをウェアラブルデバイスに搭載することを目指しています。ターゲットアプリケーションには、コンテキスト認識、オーディオおよび画像処理、ユーザーインタラクションなどがあり、すべてハードウェアでプライバシーが保護されています。Coral NPUは、Synapticsとのパートナーシップを通じてエコシステムを構築し、インテリジェントデバイスのオープンスタンダードを確立しています。