最新的Gemini Nano,带有设备上ML Kit GenAI API
最新的 Gemini Nano,一个强大的设备端多模态模型,现已通过 ML Kit GenAI API 在 Pixel 10 设备上提供。开发者可以将摘要、校对、改写和图像描述等功能集成到他们的应用程序中。GenAI API 旨在为不同模型版本和设备升级提供一致的质量。这种一致性是通过一个严格的评估流程实现的,该流程使用基于 LLM 的评估器、统计指标和人工反馈。此外,功能特定的 LoRA 适配器在 Gemini Nano 基础模型之上进行训练和部署,以满足质量标准。最新的 Gemini Nano 显著提高了性能,尤其是在前缀速度方面,即模型处理输入的响应速度。在 Pixel 10 Pro 上的基准测试显示,文本到文本和图像到文本任务的每秒令牌数都有显著增加。随着 Gemini Nano 的不断发展,该团队致力于维护这一质量保证流程。这种方法旨在简化 Gemini Nano 在 Android 应用中的集成,使开发者能够轻松利用新的功能。开发者可以在官方文档和示例代码中找到有关实现 GenAI API 的资源和指南。