RSS Блог Cloudflare
Подписаться
Как мы создали самый эффективный движок вывода для сети Cloudflare
Infire — это движок для инференса больших языковых моделей (LLM), который использует ряд техник для максимального использования ресурсов, позволяя нам более эффективно обслуживать AI-модели с лучшей производительностью для облачных нагрузок Cloudflare.