Workers AI는 속도 향상, 일괄 작업 지원, 더... 노트

Workers AI는 속도 향상, 일괄 작업 지원, 더 많은 LoRAs, 새로운 모델 및 새로 고친 대시보드를 제공합니다.

우리는 추측 디코딩 및 접두사 캐싱을 통해 Workers AI 추론을 더 빠르게 만들었습니다. 대량 요청 볼륨을 무결점으로 처리하기 위해 새로운 배치 추론을 사용하세요.
CdXz5zHNQW_FaGFOrS7H4.png