크롬은 이제 브라우저 내에서 구글의 Gemini Nano 모델을 직접 활용하는 내장 AI API를 제공합니다. 이로 인해 API 키, 백엔드 프록시, 요약이나 번역 같은 작업에 대한 토큰별 청구가 필요 없어집니다. 이러한 기기 내 AI 기능은 사용자 데이터가 기기를 벗어나지 않도록 보장하여 프라이버시를 높이고 지연 시간을 줄입니다. 초기에는 이 API들이 데스크톱 전용이며, 상당한 초기 모델 다운로드가 필요한 고성능 기기가 필요합니다.API는 Summarizer, Translator, Writer와 같은 작업별 도구와 맞춤형 또는 다중 모드 요구를 위한 범용 프롬프트 API로 분류됩니다. 모든 API는 기능 탐지, 모델 다운로드 상태를 포함한 가용성 검사, 인스턴스 생성 등 일관된 라이프사이클을 따릅니다. 생성 과정은 사용자 제스처로 시작되어야 하며, 모델 다운로드 진행 상황 모니터링도 포함되어야 합니다.Summarizer API는 텍스트를 핵심 포인트로 압축할 수 있게 해줍니다. 요약; 요약, 티저, 또는 헤드라인, 형식과 길이 옵션을 선택할 수 있습니다. 프롬프트 API는 이미지와 텍스트를 수용하여 제공된 스키마를 기반으로 구조화된 JSON 출력을 생성할 수 있는 다중 모달 상호작용을 가능하게 합니다. 이로 인해 예측 가능하고 구문 분석 가능한 결과가 보장되어, 비구조화된 AI 응답에 대한 오류 발생 쉬운 파싱이 필요 없게 됩니다.이러한 새로운 브라우저 기반 AI 기능은 핵심 기능이 아니라 점진적인 개선으로 구현되어야 합니다. 서버 측 처리나 우아한 성능 저하에 대한 후속 조치 메커니즘이 매우 중요한데, 모든 사용자나 기기가 이러한 온디바이스 모델을 지원하는 것은 아닙니다. 프라이버시는 개발자들이 로컬 데이터 처리를 강조할 수 있게 하는 주요 이점입니다.