DEV Community на русском
Подписаться
ИИ без бэкенда: встроенные в браузер API для ИИ для веб-разработчиков
Теперь Chrome предлагает встроенные AI-API, используя модель Google Gemini Nano непосредственно внутри браузера. Это устраняет необходимость в API-ключах, прокси на сервере и оплате за токен для таких задач, как суммаризация или перевод. Эти возможности ИИ на устройстве гарантируют, что данные пользователей никогда не покидают компьютер, повышая конфиденциальность и снижая задержку. Изначально эти API работают только на рабочем столе и требуют поддерживающей машины с значительной начальной загрузкой модели.API классифицируются на специализированные инструменты, такие как Summarizer, Translator и Writer, а также универсальный API Prompt для пользовательских или мультимодальных нужд. Все API следуют единому жизненному циклу: обнаружению функций, проверке доступности, включая статус загрузки модели, и созданию экземпляра. Процесс создания должен быть инициирован пользовательским жестом и включать мониторинг прогресса загрузки модели.API Summarizer позволяет сжимать текст в ключевые точки, TL; DR, тизеры или заголовки с вариантами формата и длительности. API Prompt позволяет мультимодальные взаимодействия, принимая изображения и текст для генерации структурированного JSON-вывода на основе заданной схемы. Это обеспечивает предсказуемые и разборчивые результаты, устраняя необходимость ошибочного разбора неструктурированных ответов ИИ.Эти новые функции ИИ на базе браузера должны внедряться как прогрессивные улучшения, а не как основные функции. Резервный механизм для серверной обработки или плавного деградации крайне важен, так как не все пользователи или устройства поддерживают такие модели на устройстве. Конфиденциальность — ключевое преимущество, позволяющее разработчикам выделять локальную обработку данных.