온디바이스 ML Kit GenAI API를 지원하는 최... 노트

온디바이스 ML Kit GenAI API를 지원하는 최신 Gemini Nano

가장 최신 Gemini Nano는 강력한 온디바이스 멀티모달 모델로, 이제 Pixel 10 기기의 ML Kit GenAI API를 통해 사용할 수 있습니다. 개발자는 요약, 교정, 재작성, 이미지 설명과 같은 기능을 애플리케이션에 통합할 수 있습니다. GenAI API는 다양한 모델 버전 및 기기 업그레이드 전반에 걸쳐 일관된 품질을 제공하는 것을 목표로 합니다. 이러한 일관성은 LLM 기반 평가자, 통계적 지표 및 사람의 피드백을 활용한 엄격한 평가 파이프라인을 통해 달성됩니다. 또한, 기능별 LoRA 어댑터는 Gemini Nano 기본 모델 위에 훈련 및 배포되어 품질 표준을 충족합니다. 최신 Gemini Nano는 특히 모델이 입력을 얼마나 빨리 처리하는지를 나타내는 접두사 속도에서 성능이 크게 향상되었습니다. Pixel 10 Pro에서의 벤치마크는 텍스트-텍스트 및 이미지-텍스트 작업 모두에서 초당 토큰 수가 상당히 증가했음을 보여줍니다. 팀은 Gemini Nano가 계속 발전함에 따라 이러한 품질 보증 프로세스를 유지하기 위해 최선을 다하고 있습니다. 이 접근 방식은 Gemini Nano를 Android 앱에 통합하는 것을 단순화하여 개발자가 새로운 기능을 쉽게 활용할 수 있도록 하는 것을 목표로 합니다. 개발자는 GenAI API 구현을 위한 공식 문서 및 샘플 코드에서 리소스와 지침을 찾을 수 있습니다.