Gemini Nano теперь доступен на Android через экспериментальный доступ

Google представила Gemini, семейство мультимодальных моделей, разработанных для гибкости и способных работать на различных устройствах. Gemini Nano – самая эффективная модель, подходящая для задач на устройстве. Она стала доступна всем разработчикам Android через AI Edge SDK с помощью AICore. Разработчики могут экспериментировать с текстовыми подсказками на устройствах серии Pixel 9, поддержка других устройств и модальностей появится в будущем. Gemini Nano превосходит по своим характеристикам в академических тестах и реальных приложениях, предлагая возможности, сравнимые с гораздо более крупными моделями. Она уже используется в таких приложениях Google, как Talkback и Pixel Recorder. Интеграция моделей ИИ в мобильные приложения может быть сложной задачей из-за ограничений вычислительных ресурсов и места для хранения. AICore, новая системная служба в Android, позволяет разработчикам использовать преимущества ИИ, работающего непосредственно на устройстве, без необходимости самостоятельного распространения сред выполнения, моделей и других компонентов. AI Edge SDK позволяет разработчикам настраивать подсказки и параметры вывода в соответствии с их конкретными потребностями, обеспечивая больший контроль над каждым выводом. Разработчики могут экспериментировать с Gemini Nano, добавив в свои приложения определенную зависимость и настроив параметры вывода, такие как температура, верхний K, количество кандидатов и максимальное количество выходных токенов. Для разработчиков доступно руководство по интеграции и стратегиям подсказок, чтобы начать экспериментировать с Gemini Nano.