크롬, 크롬북 플러스, 픽셀 워치에서 LiteRT-LM을 활용한 온디바이스 생성형 AI
Google AI Edge는 온디바이스에서 AI 기능을 실행할 수 있는 도구를 제공하며, 새로운 LiteRT-LM 런타임은 생성형 AI에 있어 중요한 발전을 이루었습니다. LiteRT-LM은 오픈 소스 C++ API로, 크로스 플랫폼 호환성과 하드웨어 가속 기능을 갖추고 있어 Gemma 및 Gemini Nano와 같은 대규모 언어 모델을 다양한 하드웨어에서 효율적으로 실행할 수 있도록 설계되었습니다. 핵심 혁신은 유연하고 모듈화된 아키텍처로, Chrome 및 Chromebook Plus에서 복잡하고 다중 작업 기능을 지원하도록 확장될 수 있으며, 동시에 Pixel Watch와 같은 리소스가 제한된 장치에서도 효율적으로 작동할 수 있습니다. 이러한 다재다능함은 이미 WebAI 및 스마트 답장과 같은 기능을 사용자에게 제공하며 온디바이스 생성형 AI의 새로운 물결을 가능하게 하고 있습니다.
