Стек инженерии ИИ, который мы ... Заметка
RSS Блог Cloudflare

Стек инженерии ИИ, который мы построили внутри — на платформе, которую мы поставляем

Мы построили наш внутренний стек инженерии ИИ на тех же продуктах, которые мы поставляем. Это означает, что 20 миллионов запросов были маршрутизированы через шлюз ИИ, обработано 241 миллиард токенов, и вывод модели работает на Workers AI, обслуживая более 3683 внутренних пользователей. Вот как мы это сделали.
CdXz5zHNQW_ZgSptYqzFK.png