트랜스포머 모델 활용: 학습부터 추론까지 노트

트랜스포머 모델 활용: 학습부터 추론까지

이 장은 네 부분으로 나뉘어 있습니다. 그 내용은 다음과 같습니다. • 자기 회귀 생성 • 미리 채우기 및 디코딩 • 간단한 키-값 캐시 • 키-값 캐시의 메모리 사용량 디코더 전용 트랜스포머 모델은 이전에 나온 토큰에서 다음 토큰을 예측합니다.
CdXz5zHNQW_nNDoBRzLFp.jpeg