RSS Android-Entwickler-Blog
Folgen
Das neueste Gemini Nano mit On-Device ML Kit GenAI APIs
Das neueste Gemini Nano, ein leistungsstarkes On-Device-Multi-Modal-Modell, ist jetzt über ML Kit GenAI-APIs auf Pixel-10-Geräten verfügbar. Entwickler können Funktionen wie Zusammenfassung, Korrekturlesen, Umschreiben und Bildbeschreibung in ihre Anwendungen integrieren. Die GenAI-APIs zielen darauf ab, eine konsistente Qualität über verschiedene Modellversionen und Geräte-Updates hinweg bereitzustellen. Diese Konsistenz wird durch eine strenge Bewertungspipeline mit LLM-basierten Bewertern, statistischen Metriken und menschlichem Feedback erreicht. Zusätzlich werden featurespezifische LoRA-Adapter trainiert und auf dem Gemini-Nano-Grundmodell bereitgestellt, um Qualitätsstandards zu erfüllen. Das neueste Gemini Nano verbessert die Leistung erheblich, insbesondere bei der Prefix-Geschwindigkeit, also der Geschwindigkeit, mit der das Modell Eingaben verarbeitet. Benchmarks auf dem Pixel 10 Pro zeigen erhebliche Steigerungen bei den Token pro Sekunde für Text-zu-Text- und Bild-zu-Text-Aufgaben. Das Team ist bestrebt, diesen Qualitätsicherungsprozess aufrechtzuerhalten, während Gemini Nano weiterentwickelt wird. Dieser Ansatz zielt darauf ab, die Integration von Gemini Nano in Android-Apps zu vereinfachen und es Entwicklern zu ermöglichen, neue Fähigkeiten einfach zu nutzen. Entwickler finden Ressourcen und Anleitungen in der offiziellen Dokumentation und Beispielcode für die Implementierung von GenAI-APIs.