온디바이스 ML Kit GenAI API를 지원하는 최신 Gemini Nano
가장 최신 Gemini Nano는 강력한 온디바이스 멀티모달 모델로, 이제 Pixel 10 기기의 ML Kit GenAI API를 통해 사용할 수 있습니다. 개발자는 요약, 교정, 재작성, 이미지 설명과 같은 기능을 애플리케이션에 통합할 수 있습니다. GenAI API는 다양한 모델 버전 및 기기 업그레이드 전반에 걸쳐 일관된 품질을 제공하는 것을 목표로 합니다. 이러한 일관성은 LLM 기반 평가자, 통계적 지표 및 사람의 피드백을 활용한 엄격한 평가 파이프라인을 통해 달성됩니다. 또한, 기능별 LoRA 어댑터는 Gemini Nano 기본 모델 위에 훈련 및 배포되어 품질 표준을 충족합니다. 최신 Gemini Nano는 특히 모델이 입력을 얼마나 빨리 처리하는지를 나타내는 접두사 속도에서 성능이 크게 향상되었습니다. Pixel 10 Pro에서의 벤치마크는 텍스트-텍스트 및 이미지-텍스트 작업 모두에서 초당 토큰 수가 상당히 증가했음을 보여줍니다. 팀은 Gemini Nano가 계속 발전함에 따라 이러한 품질 보증 프로세스를 유지하기 위해 최선을 다하고 있습니다. 이 접근 방식은 Gemini Nano를 Android 앱에 통합하는 것을 단순화하여 개발자가 새로운 기능을 쉽게 활용할 수 있도록 하는 것을 목표로 합니다. 개발자는 GenAI API 구현을 위한 공식 문서 및 샘플 코드에서 리소스와 지침을 찾을 수 있습니다.