RSS Блог о Kubernetes
Подписаться
Объявление о создании рабочей группы по AI Gateway
Сообщество Kubernetes расширяется за счет формирования Рабочей группы по AI-шлюзам, которая сосредоточится на сетевом взаимодействии для рабочих нагрузок ИИ. AI-шлюз — это сетевая инфраструктура, использующая Gateway API и расширяющая его для рабочих нагрузок ИИ. Это включает такие функции, как ограничение скорости на основе токенов, контроль доступа и инспекция полезной нагрузки. Рабочая группа стремится создать стандарты и лучшие практики для инфраструктуры ИИ в Kubernetes. Их цели включают создание API, содействие сотрудничеству и обеспечение расширяемости для специфичных для ИИ расширений шлюзов. Активные предложения касаются обработки полезной нагрузки для обеспечения безопасности и оптимизации, а также определения исходящих шлюзов. Эти предложения позволяют безопасно интегрировать внешние сервисы ИИ и осуществлять расширенное управление трафиком. Группа удовлетворяет потребности операторов платформ, разработчиков и инженеров по соответствию требованиям. Рабочая группа представит свои выводы на KubeCon + CloudNativeCon Europe 2026. Рабочая группа по AI-шлюзам приветствует вклад различных заинтересованных сторон для формирования будущего возможностей шлюзов с поддержкой ИИ в Kubernetes. Заинтересованные лица могут ознакомиться с предложениями, присоединиться к встречам и участвовать в обсуждениях. Группа работает по модели открытого вклада для разработки стандартов сетевого взаимодействия для рабочих нагрузок ИИ.