Workers AI obtiene un aumento ... Nota

Workers AI obtiene un aumento de velocidad, soporte de carga de trabajo por lotes, más LoRAs, nuevos modelos y un panel de control actualizado

Acabamos de hacer que la inferencia de inteligencia artificial de Workers sea más rápida con decodificación especulativa y caché de prefijo. Utilice nuestra nueva inferencia por lotes para manejar volúmenes de solicitudes grandes de manera fluida.
CdXz5zHNQW_FaGFOrS7H4.png