Chrome、Chromebook Plus、Pixel WatchにおけるLiteRT-LMによるオンデバイス生成AI
Google AI Edgeは、デバイス上でAI機能を実行するためのツールを提供しており、新しいLiteRT-LMランタイムは生成AIにとって大きな進歩です。LiteRT-LMは、オープンソースのC++ API、クロスプラットフォーム互換性、そしてハードウェアアクセラレーションを備えており、GemmaやGemini Nanoのような大規模言語モデルを幅広いハードウェアで効率的に実行できるように設計されています。その主な革新は、ChromeやChromebook Plusの複雑でマルチタスクな機能を強化するために拡張可能でありながら、Pixel Watchのようなリソースが限られたデバイスにも対応できるほど軽量な、柔軟でモジュール化されたアーキテクチャです。この汎用性により、WebAIやスマートリプライのような機能をユーザーに提供する、オンデバイス生成AIの新しい波がすでに実現されています。
