Le dernier Gemini Nano avec les API GenAI de ML Kit sur appareil
Le dernier modèle multi-modal puissant sur appareil, Gemini Nano, est maintenant disponible via les API ML Kit GenAI sur les appareils Pixel 10. Les développeurs peuvent intégrer des fonctionnalités telles que la résumé, la relecture, la réécriture et la description d'image dans leurs applications. Les API GenAI visent à fournir une qualité constante à travers les différentes versions de modèle et les mises à jour d'appareil. Cette constance est atteinte grâce à un pipeline d'évaluation rigoureux utilisant des évaluateurs basés sur des modèles de langage (LLM), des métriques statistiques et des retours humains. De plus, des adaptateurs LoRA spécifiques à la fonctionnalité sont entraînés et déployés sur le modèle de base Gemini Nano pour répondre aux normes de qualité. Le dernier Gemini Nano améliore significativement les performances, en particulier en termes de vitesse de préfixe, qui mesure à quelle vitesse le modèle traite les entrées. Les benchmarks sur le Pixel 10 Pro montrent des augmentations substantielles du nombre de jetons par seconde pour les tâches de texte à texte et d'image à texte. L'équipe est déterminée à maintenir ce processus d'assurance qualité tandis que Gemini Nano continue d'évoluer. Cette approche vise à simplifier l'intégration de Gemini Nano dans les applications Android, permettant aux développeurs de tirer parti de nouvelles capacités facilement. Les développeurs peuvent trouver des ressources et des conseils dans la documentation officielle et le code d'exemple pour l'implémentation des API GenAI.