TheNote
Google Developers Blog на русс... Заметка
GooglePlay AppStore

Google Developers Blog на русском

Developers.googleblog.com - это официальный блог для разработчиков от Google. Здесь представлена исчерпывающая информация о различных инструментах разработчика и их функциональных возможностях, исправлениях ошибок и руководствах по совершенствованию навыков разработки. Кроме того, в блоге публикуются тематические исследования, интервью и новости сообщества, связанные с проектами Google по разработке программного обеспечения.
Google Developers Blog developers.googleblog.com
RSS developers.googleblog.com
Google Developers Blog на русском RSS thenote.app
RSS Hunter RSS Hunter • 22 авг. 2024 г.

Трэд заметок

Почему генерация клиентских SDK должна быть открытой

Google объединилась со Speakeasy, чтобы выпустить в открытый доступ свой набор инструментов для генерации кода OpenAPI под лицензией AGPLv3. Это стратегический шаг, вызванный внезапным закрытием предыдущего поставщика проприетарных SDK от Google. Новый открытый набор инструментов предоставляет разработчикам детерминированные генераторы SDK для различных языков, которые нативно поддерживают строгую типизацию и потоковую передачу SSE, а также инструменты для компиляции нативных CLI агентов и серверов документации MCP. Инженерные команды теперь могут безопасно интегрировать эти надежные инструменты непосредственно в свои конвейеры CI для автоматической генерации надежных клиентских библиотек для собственных API, сохраняя при этом полный лицензионный контроль над выходным кодом.
Why client SDK generation belongs in the open developers.googleblog.com
RSS Hunter RSS Hunter • 17 сент.

Обнаружение аномалий агента, теперь в закрытом предварительном просмотре на платформе Gemini Enterprise Agent.

Агент обнаружения аномалий — это новый, независимый уровень надзора для платформы Gemini Enterprise Agent, который анализирует трассировки OpenTelemetry и вызовы инструментов для выявления поведенческих рисков без увеличения задержки в реальном времени для текущих запросов. Он использует многоуровневый конвейер обнаружения, сочетающий легкое статистическое сканирование с глубоким анализом на основе LLM, для выявления логических аномалий и нарушений политики, основанных на OWASP Agentic Top 10. Разработчики могут обрабатывать эти автоматизированные результаты в Security Command Center или использовать предоставленный API для программной блокировки последующих вызовов инструментов, когда агент превышает установленные пороговые значения риска.
Agent Anomaly Detection, now in Private Preview on the Gemini Enterprise Agent Platform developers.googleblog.com
RSS Hunter RSS Hunter • 16 сент.

Создавайте ИИ-агентов с нулевым доверием, которые оценивают намерения, а не только синтаксис.

В этой статье блога рассматривается, как перейти от статических средств контроля безопасности ИИ-агентов, создаваемых во время сборки, к динамическому управлению во время выполнения с использованием платформы Gemini Enterprise Agent Platform. В ней выделяются три основных управляемых средства защиты: Model Armor для проверки запросов на периферии, Semantic Governance Policies для оценки намерений инструментов в соответствии с бизнес-правилами и Agent Anomaly Detection для выявления многошаговых эксплойтов. Перенося эти возможности на уровень платформы, администраторы безопасности могут динамически применять политики и нейтрализовать сложные атаки без необходимости изменять или повторно развертывать базовый код агента.
Build zero-trust AI agents that judge intent, not just syntax developers.googleblog.com
RSS Hunter RSS Hunter • 15 сент.

Анатомия инжиниринга систем управления: как оценивать, итерировать и защищать ИИ-агентов для написания кода

Хотя комплексные бенчмарки, такие как SWE-bench, предоставляют общие оценки производительности ИИ-агентов, они часто дороги, медленны и не имеют диагностики первопричин, необходимой для точного объяснения, где именно произошел сбой в логике агента. Для решения этой проблемы разработчики должны внедрить поведенческие оценки — быстрые, локальные тесты в стиле модульных, которые проверяют дискретные промежуточные действия, такие как проверка конкретных вызовов инструментов или изменений файлов, а не окончательное равенство строк. Создавая эти недорогие микропроверки наряду с макро-бенчмарками, инженерные команды могут уверенно итерировать по системным запросам и обновлять модели без риска регрессий.
The Anatomy of Harness Engineering: How to Evaluate, Iterate, and Guard AI Coding Agents developers.googleblog.com
RSS Hunter RSS Hunter • 9 сент.

Анонсируем ADK для Kotlin 1.0: Создание готовых к продакшену ИИ-агентов на Kotlin, Android и не только

Google официально выпустила версию 1.0 Agent Development Kit (ADK) для Kotlin, достигнув полной функциональной совместимости с ядрами ADK для Python и Java, чтобы обеспечить идиоматическую разработку мультиагентного ИИ. Созданный на основе Kotlin Multiplatform (KMP), фреймворк использует Kotlin Symbol Processing (KSP) для вызовов функций без рефлексии и с проверкой типов, а также расширенные возможности оркестрации, такие как рабочие процессы с участием человека и сжатие контекста. Кроме того, релиз представляет собой надежный набор расширений, ориентированных в первую очередь на Android, позволяющих мобильным разработчикам интегрировать локальные модели через LiteRT-LM, облачные рассуждения через Firebase AI, сохранение сеансов с использованием Room и семантическую память на базе AppSearch.
Announcing ADK for Kotlin 1.0: Building Production-Ready AI Agents in Kotlin, Android, and Beyond developers.googleblog.com
RSS Hunter RSS Hunter • 9 сент.

Развитие мастерства разработчиков: Взгляд на программные спринты

Программа Gemini Enterprise Developer Experience (DevEx) проводит постоянное тестирование спринтов сквозных рабочих процессов разработчиков для выявления и быстрого устранения проблемных моментов без использования внутренних сокращений. Этот недавний спринт был посвящен оптимизации корпоративного управления ИИ, включая уточнение предварительных условий настройки, обеспечение безопасности конфигураций расширений и разъяснение механизмов применения политик для обеспечения более плавного и надежного развертывания. Теперь разработчики могут использовать обновленную документацию и стандартизированные примеры кода для улучшения своего опыта работы с конфигурациями Agent Gateway и Semantic Governance.
Driving Developer Excellence: Inside the Program Sprints developers.googleblog.com
RSS Hunter RSS Hunter • 4 сент.

4 инженерных паттерна, лежащих в основе самых сильных решений конкурса AI Agents Challenge

Недавний конкурс Google for Startups AI Agents Challenge показал, что наиболее успешные мультиагентные системы полагаются на фундаментальные паттерны программной инженерии, а не только на сырую мощь моделей. Победившие архитектуры последовательно реализовывали двунаправленный MCP для бесшовной меж-агентной коммуникации, асинхронные шины событий для параллельного выполнения, строгую унифицированную валидацию для резервных механизмов моделей и многоуровневую маршрутизацию для минимизации дорогостоящих вызовов инференса. Отдавая приоритет этим структурным практикам перед простыми линейными цепочками промптов, разработчики могут создавать более устойчивые, низколатентные и экономически эффективные агентные рабочие процессы.
4 engineering patterns behind the strongest AI Agents Challenge submissions developers.googleblog.com
RSS Hunter RSS Hunter • 2 сент.

Корпоративная точность для инференса мультимодальных эмбеддингов с длинным контекстом на облачных TPU

Google Cloud нативно интегрировал поддержку TPU в движок обслуживания vLLM, позволяя разработчикам эластично масштабировать высоконагруженные конвейеры встраивания с использованием Google Kubernetes Engine (GKE). Для обработки массивных контекстов размером более 15 тысяч токенов для таких моделей, как Qwen3-Embedding-8B, инженерная команда внедрила оптимизации, специфичные для TPU, такие как аппаратное выравнивание тензоров, предварительный прогрев компиляции JAX/XLA и гибридная архитектура StepPool для управления фрагментированным предварительным заполнением. Эти улучшения достигают почти идеальной численной эквивалентности с эталонными GPU-базовыми линиями, и разработчики могут немедленно использовать рецепты настройки с открытым исходным кодом на GitHub AI-Hypercomputer для создания собственных высокопроизводительных приложений семантического поиска.
Enterprise-Grade Precision for Long-Context Multimodal Embedding Inference on Cloud TPU developers.googleblog.com
RSS Hunter RSS Hunter • 26 авг.

Как оценивать агентов Live & Voice в ADK

Перемещение живых голосовых агентов с демонстрации в продакшн требует строгого автоматизированного тестирования, чтобы справиться с непредсказуемостью реальных многоповоротных разговоров. ADK теперь предоставляет нативную живую оценку, позволяя разработчикам тестировать графовые рабочие процессы агентов против пользователей, симулированных на LLM, которые генерируют реальный аудио через Gemini TTS. Определяя сценарии оценки и рубрики на естественном языке, вы можете автоматически оценивать аудиоответы и выполнение инструментов, проверять полученные транскрипты в ADK Web или запускать CLI напрямую в вашем CI/CD конвейере.
How to Evaluate Live & Voice Agents in ADK developers.googleblog.com
RSS Hunter RSS Hunter • 24 авг.

Создавайте ИИ-агентов с нулевым доверием с помощью набора для разработки агентов Google

Создание автономных ИИ-агентов, которые мутируют производственное состояние, требует выхода за рамки мягких системных подсказок к надежной архитектуре с нулевым доверием. Для защиты рабочих процессов Google Agent Development Kit (ADK) от инъекций подсказок и вредоносного выполнения разработчики должны внедрить криптографические подписи, поддерживаемые аппаратным обеспечением, для записи в базу данных, песочницы на уровне ядра с gVisor для динамического кода и детерминированные семантические шлюзы для проверки ввода-вывода. Обеспечивая эти жесткие границы безопасности на уровне инфраструктуры, вы можете безопасно развертывать многоинструментальные ИИ-агенты без риска несанкционированного манипулирования данными или компрометации сервера.
Build zero-trust AI agents with Google's Agent Development Kit developers.googleblog.com
RSS Hunter RSS Hunter • 17 авг.

HeyGen x Google Cloud: Аватар IV на TPU

HeyGen портировала свою модель генерации видео Avatar IV с более чем 18 миллиардами параметров на TPU Trillium (v6e) от Google Cloud через torchax и XLA, используя FSDP и Ulysses sequence parallelism на восьмичиповой сетке. Для достижения 1,86-кратного ускорения в режиме реального времени команда инженеров применила конвейерную обработку всех коллективных операций "all-to-all", выровняла размеры блоков разреженного внимания для устранения дополнения маски и обошла последовательные зависимости softmax, используя предварительно вычисленную верхнюю границу Коши-Шварца. Эти пользовательские оптимизации ядра Pallas и компилятора были развернуты только после прохождения строгих двухступенчатых проверок качества, гарантирующих идентичные байт в байт или математически эквивалентные выходные пиксельные данные.
HeyGen x Google Cloud: Bringing Avatar IV to TPUs developers.googleblog.com
RSS Hunter RSS Hunter • 13 авг.

Представляем Credentio: библиотека C++ с открытым исходным кодом для C2PA Content Credentials от Google

Credentio — это недавно выпущенная библиотека C++ с открытым исходным кодом от Google, которая позволяет разработчикам интегрировать высокопроизводительную локальную проверку учетных данных контента C2PA в свои клиентские и серверные приложения. Обрабатывая активы полностью локально с высокооптимизированным использованием памяти, библиотека обеспечивает мгновенные результаты проверки для медиафайлов размером в несколько гигабайт без задержек облачных сервисов, затрат на пропускную способность или рисков конфиденциальности данных. В настоящее время библиотека поддерживает глубокий разбор манифестов наряду с настраиваемой интеграцией списков доверия и доступна на Google Source, с планами по поддержке полного создания и встраивания учетных данных в будущем.
Introducing Credentio: Open Source C++ Library for C2PA Content Credentials from Google developers.googleblog.com
RSS Hunter RSS Hunter • 13 авг.

Почему Go — идеальный язык для разработки программного обеспечения с помощью ИИ

Поскольку ИИ-ассистенты по написанию кода смещают основную роль разработчика с написания шаблонного кода на проверку и поддержку систем, выбор языка становится критически важным для долгосрочной архитектурной целостности. Go напрямую отвечает на эту новую парадигму, используя свой строгий компилятор, интегрированный инструментарий и бескомпромиссную читаемость для обеспечения детерминированных ограничений, которые помогают моделям ИИ самокорректироваться и генерировать высокостандартизированный код. Обеспечивая согласованность во всей экосистеме и строгую обратную совместимость, платформа Go позволяет инженерным командам эффективно проверять, оптимизировать и поддерживать высокоскоростной, сгенерированный ИИ вывод в производственных средах.
Why Go is an Ideal Language for AI-Assisted Software Engineering developers.googleblog.com
RSS Hunter RSS Hunter • 11 авг.

Освоение Edge AI на Raspberry Pi с LiteRT и Gemma

Развертывание безопасного ИИ на периферии в реальном времени на Raspberry Pi теперь упрощено с использованием LiteRT и легковесных открытых моделей Gemma. LiteRT оптимизирует производительность ЦП и ГП, обеспечивая высокую скорость обработки токенов для таких моделей, как Gemma4, что позволяет осуществлять локальные рассуждения в реальном времени для робототехники. Разработчики могут быстро конвертировать, квантовать и запускать эти модели с помощью легковесного инструмента командной строки LiteRT. Скоро также появится поддержка ускорителей ИИ Hailo.
Mastering Edge AI on Raspberry Pi with LiteRT and Gemma developers.googleblog.com
RSS Hunter RSS Hunter • 11 авг.

Плагины агента упаковывают ваши навыки, инструменты и многое другое

Agent Plugins 1.0.0 — это новая, независимая от поставщика спецификация каталога, поддерживаемая Google, Amazon, Microsoft и другими, для упаковки навыков агента и серверов MCP в единый переносимый блок. Стандартизируя манифест (plugin.json) и используя фиксированную структуру каталогов, она устраняет необходимость для разработчиков поддерживать отдельные обертки или конфигурации для поддержки различных ИИ-кодирующих агентов и IDE. Google официально присоединился в качестве основного сопровождающего и уже внедрил поддержку в Agents CLI и Data Agent Kit, позволяя разработчикам начать создавать и распространять совместимые плагины уже сегодня.
Agent Plugins package your skills, tools, and more developers.googleblog.com
RSS Hunter RSS Hunter • 6 авг.

Масштабирование инфраструктуры ИИ-агентов с помощью обновлений без состояния MCP

Спецификация Протокола Контекста Модели (MCP) от 28.07.2026 заменяет устаревшие stateful ограничения полностью stateless ядром, обеспечивая облачно-ориентированное горизонтальное масштабирование, serverless развертывания и стандартную балансировку нагрузки round-robin. Этот архитектурный сдвиг вводит стандартизированные HTTP-заголовки для эффективной маршрутизации без глубокой инспекции пакетов, управления кэшированием и запросов с множеством раундов (MRTR) для обработки интерактивных и длительных задач без блокировки соединений. Разработчики могут немедленно начать миграцию своих агентских приложений на эту высокомасштабируемую инфраструктуру, используя новые бета-SDK для Python, TypeScript, Go и C#.
Scaling AI Agent Infrastructure with the MCP Stateless updates developers.googleblog.com
RSS Hunter RSS Hunter • 5 авг.

Единый API для маршрутизации моделей ИИ

API Gateway Google Cloud теперь предлагает функцию маршрутизации моделей в режиме предварительного просмотра, позволяя разработчикам динамически направлять трафик к таким моделям, как Gemini, Claude или OpenAI OSS-GPT, без жесткого кодирования конечных точек или управления прокси-серверами с открытым исходным кодом. Разработчики могут легко настраивать эти правила маршрутизации непосредственно в своих спецификациях OpenAPI 3.x, сопоставляя виртуальные имена моделей с конкретными целевыми серверами на общем хосте. После развертывания Gateway действует как бессерверный уровень входа, который принимает стандартные запросы, совместимые с OpenAI, автоматически транскодирует полезную нагрузку в нативную схему целевой модели и маршрутизирует трафик на лету.
A unified API for AI model routing developers.googleblog.com
RSS Hunter RSS Hunter • 4 авг.

Масштабирование ИИ-агентов реального времени с помощью балансировки нагрузки с учетом сессий

"Реально-временные ИИ-агенты нарушают традиционные парадигмы балансировки нагрузки типа "запрос-ответ", поскольку они полагаются на долгоживущие, сессионные двунаправленные потоки, которые скрывают истинную емкость сервера. Чтобы решить эту проблему, разработчики должны реализовать отслеживание сессий на уровне приложения непосредственно в среде выполнения, чтобы точно измерять задействованную одновременную рабочую нагрузку активных разговоров. Подавая эти точные счетчики сессий вместе со стандартными метриками использования ЦП в гибридный алгоритм маршрутизации, инфраструктура может эффективно распределять сессионный ИИ-трафик и предотвращать возникновение узких мест на отдельных бэкендах."
Scaling real-time AI agents with session-aware load balancing developers.googleblog.com
RSS Hunter RSS Hunter • 3 авг.

Включите экспертные знания по запросу с помощью навыков агента в Genkit Go

Чтобы предотвратить раздувание контекстного окна и сократить потребление токенов, Genkit Go представляет Агентские Навыки, основанные на архитектуре прогрессивного раскрытия. Разработчики могут упаковывать специализированные инструкции, скрипты и ссылки в модульные пакеты SKILL.md, где только метаданные в формате frontmatter изначально доступны системной подсказке агента. Когда задача соответствует описанию навыка, промежуточное ПО Genkit динамически загружает полное тело инструкции и связанные с ним ресурсы, гарантируя, что модель получает доступ к точным рабочим процессам именно тогда, когда это необходимо.
Enable on-demand expertise with Agent Skills in Genkit Go developers.googleblog.com
RSS Hunter RSS Hunter • 31 июл.

Оценка агентов и моделей в платформе Gemini Enterprise Agent теперь общедоступна

Служба оценки Agent Platform теперь общедоступна, предоставляя разработчикам унифицированный движок для последовательного измерения качества агентов как в локальных экспериментах, так и в реальном производственном трафике. Вы можете оценивать агентов, используя более 20 готовых метрик, адаптивные рубрики на основе DeepMind или пользовательские метрики на основе кода и LLM-as-a-judge, хранящиеся в централизованном реестре с версионированием. Служба интегрируется непосредственно в существующие рабочие процессы через Agent Platform SDK, agents-cli и ADK, предлагая встроенные симуляторы пользователей и среды для автоматизации сложного многооборотного тестирования и оптимизации конвейеров CI.
Agent and Model Evaluations in Gemini Enterprise Agent Platform are now GA developers.googleblog.com
RSS Hunter RSS Hunter • 31 июл.

Как использовать микротесты Google для оценки производительности TPU

Набор микротестов TPU с открытым исходным кодом от Google предоставляет разработчикам детальные метрики производительности по компонентам сети, вычислений, HBM, передачи данных с хоста и внимания для проверки реальных возможностей оборудования. Используя эти тесты для построения модели Roofline, инженеры могут точно диагностировать, привязаны ли их рабочие нагрузки машинного обучения к вычислениям, памяти или сети. Эта эмпирическая база напрямую направляет целенаправленные программные оптимизации — такие как настройка ядер, шардинг сетки и рематериализация — для максимизации использования оборудования при развертывании крупномасштабных моделей.
How to use Google microbenchmarks for evaluating TPU performance developers.googleblog.com
RSS Hunter RSS Hunter • 30 июл.

Запуск Ray на TPU, Часть 2: Библиотеки Ray AI

Этот второй выпуск посвящен тому, как высокоуровневые библиотеки Ray — Serve, Data и Train — абстрагируют сложности запуска рабочих нагрузок ИИ на срезах TPU Google. Ray Serve использует простую конфигурацию топологии для правильного пакетного планирования больших многохостовых моделей, в то время как Ray Data устраняет узкие места при загрузке данных, напрямую подавая ускорители с нативными пакетами JAX. Наконец, JaxTrainer упрощает распределенное обучение на TPU, автоматически обрабатывая межсрезовую координацию, контрольные точки и отказоустойчивость.
Run Ray on TPU, Part 2: Ray AI libraries developers.googleblog.com
RSS Hunter RSS Hunter • 24 июл.

Масштабирование агентного обучения с подкреплением: высокопроизводительное обучение агентов с помощью Tunix

Tunix — это новая библиотека Google на базе JAX, предназначенная для устранения узких мест простоя TPU при обучении многоходовых LLM-агентов, использующих инструменты. Она максимизирует пропускную способность оборудования, сочетая высококонкурентные асинхронные развертывания с отдельным конвейером продюсер-потребитель, гарантируя, что трейнер постоянно получает данные, даже когда агенты ожидают сетевого ввода-вывода или шагов среды. Кроме того, Tunix предоставляет абстракции, которые можно подключать и использовать, а также непрерывное профилирование на макроуровне, позволяя разработчикам легко интегрировать пользовательские среды с открытым исходным кодом и оптимизировать сложные распределенные рабочие процессы без масштабных переписываний кода.
Scaling Agentic RL: High-Throughput Agentic Training with Tunix developers.googleblog.com
RSS Hunter RSS Hunter • 21 июл.

Запуск Ray на TPU, часть 1: Основы

Ray 2.55 представляет официальную, первоклассную поддержку Google Cloud TPU, позволяющую разработчикам запускать распределенные Python-нагрузки на ускорителях Google, используя привычные API задач и акторов Ray. Для удовлетворения строгих сетевых требований по поддержанию "срезов" TPU на нескольких хостах вместе через их межчиповый интерконнект (ICI), оператор KubeRay на GKE автоматически подготавливает и маркирует базовую аппаратную конфигурацию. Ray Core использует эти метки через примитив slice_placement_group() для атомарного резервирования полных срезов, позволяя разработчикам развертывать задания через KubeRay, Ray Train или Ray Serve, просто объявляя аппаратную топологию (например, "4x4"), без написания пользовательского кода размещения.
Run Ray on TPU, Part 1: The foundations developers.googleblog.com
RSS Hunter RSS Hunter • 20 июл.

Создание масштабируемых ИИ-агентов с помощью модульной трансляции промптов

Чтобы устранить узкие места масштабирования и ошибки времени выполнения, вызванные монолитными системными подсказками, инженерные команды должны рассматривать подсказки как артефакты сборки, модулируя инструкции в многократно используемые шаблоны. Пропуская эти модульные "файлы навыков" через транспилятор, разработчики могут обеспечить статическую проверку, выявлять отсутствующие зависимости на этапе сборки и интегрировать генерацию подсказок непосредственно в свои конвейеры CI/CD. Этот детерминированный подход предотвращает дрейф кода и в конечном итоге создает безопасную среду, в которой агенты могут предлагать обновления своей собственной логики посредством стандартных запросов на извлечение.
Building scalable AI agents with modular prompt transpilation developers.googleblog.com
RSS Hunter RSS Hunter • 16 июл.

Развитие разработки, управляемой спецификациями: Conductor теперь поддерживает Antigravity

Conductor эволюционировал из расширения Gemini CLI в портативный плагин, привнося разговорную разработку, управляемую спецификациями (SDD), в такие экосистемы, как Antigravity CLI и Claude. Вместо того чтобы полагаться на строгие последовательности команд, разработчики теперь могут естественно общаться со своим ИИ-ассистентом, который динамически управляет постоянными артефактами в формате markdown (такими как spec.md и plan.md) в фоновом режиме. Это обновление устраняет трения в рабочем процессе, одновременно гарантируя, что ваш репозиторий остается единым источником истины для архитектуры и состояния вашего проекта, управляемым версиями, в различных ИИ-инструментах.
Evolving Spec-Driven Development: Conductor Now Supports Antigravity developers.googleblog.com
RSS Hunter RSS Hunter • 16 июл.

Расширение выбора в платформе Gemini Enterprise Agent: Представляем заземление с параллельным веб-поиском

Google Cloud заключила партнерство с Parallel Web Systems для нативной интеграции поисковой инфраструктуры Parallel в качестве поставщика веб-заземления на платформе Gemini Enterprise Agent Platform. Эта интеграция позволяет разработчикам привязывать своих ИИ-агентов к проверяемым веб-результатам в реальном времени, значительно повышая фактическую точность для сложных корпоративных рабочих процессов. Кроме того, партнерство предлагает расширенную архитектурную гибкость, позволяя пользователям программно извлекать, постоянно кэшировать и обрабатывать веб-данные наряду с другими большими языковыми моделями.
Expanding Choice in Gemini Enterprise Agent Platform: Introducing Grounding with Parallel Web Search developers.googleblog.com
RSS Hunter RSS Hunter • 16 июл.

Руководство по системной инженерии: Оптимизация Qwen 3.5-397B MoE на Ironwood (TPU7x)

Для обслуживания модели Qwen 3.5 Mixture-of-Experts (MoE) с 397 миллиардами параметров на TPU Ironwood инженеры разработали модульный стек оптимизации JAX/Pallas, который обеспечил ускорение инференса до 4,7 раз для рабочих нагрузок с преобладанием префиллов. Команда обошла серьезные ограничения аппаратного шардинга, развернув гибридную топологию параллелизма данных и параллелизма экспертов (DP+EP) в сочетании с пользовательскими низкоуровневыми слияниями коммуникаций, такими как иерархический reduce-scatter, для оптимизации маршрутизации токенов между устройствами. Наконец, выполняя аппаратные пользовательские ядра, такие как Batched Ragged Page Attention и полностью слитый блок Gated DeltaNet (GDN), они успешно насытили пропускную способность HBM и TensorCore MXU, доведя пропускную способность системы почти до теоретических пределов.
Systems Engineering Playbook: Optimizing Qwen 3.5-397B MoE on Ironwood (TPU7x) developers.googleblog.com
RSS Hunter RSS Hunter • 14 июл.

Открывая следующую эру ИИ на устройствах с Google Tensor и Pixel

На Google I/O Connect India компания Google продемонстрировала будущее 100% приватного ИИ на устройстве, работающего на базе кастомного чипа Tensor SoC и TPU для нового семейства Pixel 10. На мероприятии был представлен легкий ИИ-модуль Gemma 4 E2B, который работает непосредственно на устройстве, обеспечивая полностью автономные мультимодальные функции, такие как ИИ-чат, распознавание изображений в реальном времени и задачи персонального ассистента. Разработчики могут начать создавать эти безопасные приложения на периферии уже сегодня, получив доступ к недавно анонсированной бета-версии Tensor SDK и сопутствующим открытым ресурсам.
Unlocking the Next Era of On-Device AI with Google Tensor and Pixel developers.googleblog.com
RSS Hunter RSS Hunter • 14 июл.

LiteRT.js, высокопроизводительный Web AI Inference от Google

Мы рады представить LiteRT.js, новейшее дополнение к семейству LiteRT! LiteRT.js — это наше мощное решение для запуска моделей машинного обучения непосредственно в браузере, расширяющее кроссплатформенную среду выполнения периферийного ИИ от Google для Интернета. Созданный для разработчиков JavaScript, LiteRT.js обеспечивает высочайшую производительность при выполнении моделей машинного обучения на WebGPU и предстоящем WebNN, с резервным вариантом на WebAssembly для ЦП. В этой статье представлен краткий обзор LiteRT.js и предоставлено веб-разработчикам все необходимое для начала работы.
LiteRT.js, Google's high performance Web AI Inference developers.googleblog.com
RSS Hunter RSS Hunter • 9 июл.

Мы прервали обучение TPU в середине процесса, и он восстановился за секунды: Введение в эластичное обучение с MaxText

Распределенное обучение ИИ печально известно своей хрупкостью, поскольку потеря одной машины обычно приводит к сбою всей многоузловой задачи, требуя длительного перезапуска инфраструктуры с полной нагрузкой. Для решения этой проблемы экосистема JAX от Google использует эластичное обучение через Pathways, которое преобразует сбой оборудования в обрабатываемое исключение Python, позволяя работающему процессу выжить. При возникновении незапланированного сбоя система автоматически заменяет только вышедшего из строя рабочего, восстанавливает последнюю работоспособную контрольную точку из Cloud Storage и возобновляет обучение на месте, сокращая общее время простоя до двух минут без перезапуска основного управляющего процесса.
We terminated a TPU mid-training and it recovered in seconds: Introduction to elastic training with MaxText developers.googleblog.com
RSS Hunter RSS Hunter • 6 июл.

Создавайте агентные полнофункциональные приложения с помощью Genkit

Фреймворк с открытым исходным кодом Genkit представил Agents API — полнофункциональный инструмент, предназначенный для упрощения сложной инфраструктуры разговорного ИИ путем объединения истории сообщений, циклов инструментов и потоковой передачи в единый интерфейс. API поддерживает гибкое сохранение состояния, управляемое сервером или клиентом, что позволяет использовать расширенные рабочие процессы, такие как ветвление истории, длительные автономные задачи и координация между несколькими агентами, одновременно беспрепятственно соединяя бэкенды с фронтендами через унифицированный протокол передачи данных. В настоящее время доступный в предварительной версии для TypeScript и Go, он также интегрируется с Genkit Developer UI, позволяя разработчикам легко тестировать, отлаживать и проверять снимки агентов без написания клиентского кода.
Build agentic full-stack apps with Genkit developers.googleblog.com
RSS Hunter RSS Hunter • 1 июл.

Разработка машинного обучения в VS Code с мощью Google Cloud: расширение Workbench теперь доступно

Расширение Google Cloud Workbench Notebooks для VS Code официально запущено, позволяя разработчикам подключать свою локальную IDE к масштабируемым облачным средам Jupyter. Эта интеграция оптимизирует жизненный цикл машинного обучения, устраняя необходимость переключения контекста и предоставляя прямой доступ к высокопроизводительной инфраструктуре Google Cloud. Для обеспечения прозрачности и инноваций, основанных на сообществе, недавно выпущенное расширение полностью открыто и доступно на GitHub и в VS Code Marketplace.
ML Development in VS Code with Google Cloud Power: Workbench Extension Now Available developers.googleblog.com
RSS Hunter RSS Hunter • 1 июл.

Почему мы создали ADK 2.0

Ответы на вопросы о том, почему мы создали ADK 2.0. Здесь объясняются причины, некоторые функции и почему разработчикам стоит рассмотреть возможность обновления. Это будет опубликовано на следующий день после запуска ADK 2.0.
Why we built ADK 2.0 developers.googleblog.com
RSS Hunter RSS Hunter • 1 июл.

Создавайте надежные многоагентные приложения с ADK Go 2.0. Откройте для себя наш новый движок рабочих процессов на основе графов, встроенную функцию "человек в цикле" и динамическую оркестровку.

Выпущен комплект разработчика агентов (ADK) для Go 2.0, который представляет собой первоклассный, основанный на графах движок рабочих процессов, помогающий разработчикам создавать сложные многоагентные приложения. Это обновление добавляет встроенные примитивы для оркестровки с участием человека (HITL), динамического выполнения с использованием обычного кода Go и автоматизированные функции отказоустойчивости, такие как повторные попытки с экспоненциальной задержкой. Объединяя модель выполнения, как одноагентные приложения, так и сложные графы теперь работают на одной и той же среде выполнения, упрощая телеметрию и сохранение состояния.
Build reliable multi-agent applications with ADK Go 2.0. Discover our new graph-based workflow engine, built-in human-in-the-loop, and dynamic orchestration developers.googleblog.com
RSS Hunter RSS Hunter • 30 июн.

Запуск маховика качества агента из вашего кодирующего агента

При разработке ИИ-агентов разработчики часто не уверены, не вызовут ли изменения в подсказках для исправления отдельных ошибок непреднамеренно широкомасштабные регрессии в производственной среде. Чтобы устранить этот пробел, Google представил новый навык разработчика для кодирующих агентов, который автоматизирует пятиэтапный цикл оценки: подготовка данных, выполнение вывода, оценка с помощью адаптивных AutoRaters, анализ кластеров сбоев и выполнение целенаправленных оптимизаций. Этот инструмент, работающий непрерывно на основе производственного трафика или по запросу с использованием синтетических сценариев, позволяет разработчикам описывать цели тестирования на обычном языке, в то время как независимая служба оценки безопасно проверяет и подсчитывает фактические улучшения производительности.
Driving the Agent Quality Flywheel from Your Coding Agent developers.googleblog.com
RSS Hunter RSS Hunter • 30 июн.

Как A2A строит мир совместных агентов

В честь первой годовщины протокола Agent-to-Agent (A2A) в этой статье рассказывается, как этот фреймворк позволяет автономным ИИ-агентам безопасно сотрудничать и передавать задачи без жесткости традиционных API. Делегируя сложные рабочие процессы специализированным пиринговым агентам, A2A предотвращает загрязнение контекста, обеспечивает конфиденциальность данных и упрощает проектирование приложений за счет модульности. Чтобы продемонстрировать эту экосистему в действии, в статье освещается FoldRun — интерфейс для наук о жизни, который оркестрирует сложные предсказания структуры белков, а также различные варианты использования A2A в сферах коммерции, потоковой передачи данных, DevOps и телекоммуникаций.
How A2A is Building a World of Collaborative Agents developers.googleblog.com
RSS Hunter RSS Hunter • 18 июн.

A2UI + MCP Apps: Объединяя лучшее из декларативных и пользовательских интерфейсов агентов

В этой статье представлены три архитектурных паттерна, разработанных для интеграции приложений Model Context Protocol (MCP) и пользовательского интерфейса "агент-пользователь" (A2UI) для решения компромисса между высоко настраиваемыми средами iframe и нативным декларативным рендерингом. Комбинируя эти подходы, разработчики могут предоставлять нативные интерфейсы непосредственно через MCP-серверы, безопасно встраивать сложные и управляемые состояниями iframe-приложения в декларативные представления или внедрять генеративные UI-компоненты в устаревшие системы. В конечном итоге, эти гибридные фреймворки позволяют инженерным командам создавать безопасные, производительные и соответствующие бренду пользовательские интерфейсы агентов, адаптированные к конкретным ограничениям их проектов.
A2UI + MCP Apps: Combining the best of declarative and custom agentic UIs developers.googleblog.com
RSS Hunter RSS Hunter • 17 июн.

Раскрывая мощь стека TPU: Представляем наш новый Центр разработчиков

Google официально запустила TPU Developer Hub — централизованный образовательный ресурс, призванный помочь разработчикам моделей и инженерам максимально использовать производительность Google Cloud TPU. Хаб предлагает ресурсы, ориентированные на код, рецепты с открытым исходным кодом и подробную документацию, охватывающую аппаратную архитектуру, оптимизацию программного обеспечения, отладку, параллелизм и работу с сетями. Эти материалы адаптированы как для разработчиков-людей, так и для инструментов с поддержкой ИИ, чтобы оптимизировать все: от крупномасштабного обучения до рабочих нагрузок с низкой задержкой вывода.
Unlocking the Power of the TPU Stack: Introducing our new Developer Hub developers.googleblog.com
RSS Hunter RSS Hunter • 16 июн.

Повышение безопасности и доверия: новые метаданные сеанса в функции "Вход через Google"

Google улучшает функцию "Вход через Google", внедряя новые стандартные утверждения OIDC — в частности, auth_time и amr (Authentication Methods Reference) — чтобы предоставить разработчикам более подробные метаданные сеанса. Эти обновления позволяют проверенным приложениям проверять "свежесть" входа пользователя и используемые методы аутентификации (например, многофакторную аутентификацию или аппаратные ключи), что обеспечивает более динамичное управление доступом на основе рисков. Используя эти сигналы федеративной идентификации, платформы могут лучше предотвращать захват учетных записей и мошенничество, одновременно внедряя детальные политики безопасности, такие как дополнительная аутентификация для конфиденциальных действий.
Enhance Security and Trust: New Session Metadata in Sign in with Google developers.googleblog.com
RSS Hunter RSS Hunter • 16 июн.

DiffusionGemma: Руководство разработчика

DiffusionGemma — это экспериментальная модель генерации текста, построенная на архитектуре Gemma 4, которая использует диффузионную параллельную генерацию вместо авторегрессии токен за токеном, что обеспечивает гораздо более быструю инференцию, двустороннюю контекстную осведомленность и самокоррекцию в реальном времени, оставаясь при этом развертываемой на потребительских графических процессорах. Ее архитектура параллельно генерирует и уточняет блоки из 256 токенов посредством итеративного шумоподавления, что позволяет ей более эффективно, чем традиционные языковые модели, справляться со сложными задачами, основанными на ограничениях, такими как Судоку, и демонстрировать значительный прирост от дообучения. Модель интегрируется с vLLM и другими популярными фреймворками инференции, предоставляя разработчикам доступ к новому неавторегрессивному подходу, который сочетает в себе высокую производительность, эффективное масштабирование длинного контекста, а также простую настройку и развертывание.
DiffusionGemma: The Developer Guide developers.googleblog.com
RSS Hunter RSS Hunter • 10 июн.

Представляем командную строку Google Colab

Google объявила о выпуске интерфейса командной строки Google Colab (CLI), нового инструмента, который позволяет разработчикам и агентам ИИ подключать локальные терминалы к удаленным средам выполнения Colab для бесшовного выполнения. Легковесный CLI позволяет пользователям легко запрашивать мощные GPU, запускать локальные скрипты Python удаленно и бесшовно получать журналы артефактов или модели, такие как тонко настроенные адаптеры Gemma 3. Интегрируясь напрямую в стандартные среды терминалов, инструмент имеет высокую степень программирования и готов к использованию агентами ИИ, такими как Antigravity или Claude Code, для управления сложными машинными обучающими конвейерами.
Introducing the Google Colab CLI developers.googleblog.com
RSS Hunter RSS Hunter • 5 июн.

Gemma 4 12B: Руководство разработчика

Недавно выпущенная Gemma 4 12B — это плотная, мультимодальная модель, разработанная для высокопроизводительного локального выполнения ИИ на потребительских устройствах. Внедряя новую архитектуру без энкодера, она обходит традиционные визуальные и аудио энкодеры, чтобы подавать мультимодальные данные непосредственно в основу LLM.
Gemma 4 12B: The Developer Guide developers.googleblog.com
RSS Hunter RSS Hunter • 3 июн.

Запуск Gemma 4 12B на вашем ноутбуке: Открытие локальных, агентских рабочих процессов с помощью Google AI Edge

Модель Gemma 4 12B от Google DeepMind предоставляет агенто-ориентированные, мультимодальные возможности ИИ для обычных ноутбуков с 16 ГБ ОЗУ, обеспечивая локальную обработку данных и генерацию визуальных инсайтов. Пользователи могут использовать эту модель на macOS через Google AI Edge Gallery для динамического выполнения кода Python и визуализации, а также через Google AI Edge Eloquent для полностью автономного голосового ввода и редактирования текста. Кроме того, рабочие процессы разработчиков улучшаются благодаря новой команде serve в LiteRT-LM CLI, которая создает совместимую с отраслевыми стандартами локальную конечную точку для поддержки полностью локальных инструментов и агентов ИИ.
Bringing Gemma 4 12B to your Laptop: Unlocking Local, Agentic Workflows with Google AI Edge developers.googleblog.com
RSS Hunter RSS Hunter • 3 июн.