IA générative sur appareil dans Chrome, Chromebook Plus et Pixel Watch avec LiteRT-LM
Google AI Edge fournit les outils nécessaires pour exécuter des fonctionnalités d'IA sur l'appareil, et son nouveau runtime LiteRT-LM représente un bond en avant significatif pour l'IA générative. LiteRT-LM est une API C++ open-source, compatible multiplateforme et dotée d'une accélération matérielle conçue pour exécuter efficacement de grands modèles linguistiques tels que Gemma et Gemini Nano sur une vaste gamme de matériels. Son innovation clé réside dans une architecture flexible et modulaire capable de s'adapter pour alimenter des fonctionnalités complexes et multitâches dans Chrome et Chromebook Plus, tout en étant suffisamment légère pour des appareils aux ressources limitées comme la Pixel Watch. Cette polyvalence permet déjà une nouvelle vague d'IA générative sur l'appareil, offrant aux utilisateurs des capacités telles que WebAI et les réponses intelligentes.
