RSS Блог Cloudflare
Подписаться
Workers AI получает ускорение, поддержку пакетной нагрузки, больше LoRAs, новые модели и обновленный интерфейс
Мы только что сделали Workers AI вывод быстрее с помощью спекулятивного декодирования и кэширования префиксов. Используйте наш новый пакетный вывод для бесшовного xửления больших объемов запросов.