RSS AWS 아키텍처 블로그
팔로우
Synthesia가 Amazon EC2 G7e 인스턴스에서 생성형 AI 비디오 추론을 최적화하는 방법
이 게시물에서는 Synthesia Research Engineering 팀과 협력하여 고안한 비디오 디코딩 최적화 기법인 Asynchronous Frame Generation Pipeline을 소개합니다. 이 기법을 채택하면 GPU 컴퓨팅, 디바이스-투-호스트(D2H) 데이터 전송, 호스트 측 후처리 작업을 중첩할 수 있습니다. 이 게시물에서는 Wan 비디오 생성 모델의 VAE 디코더에 이 기법을 적용하는 것을 예시로 들며, G7e에서의 벤치마크 결과 GPU 커널 활용률이 82%에서 99.9%로 증가했으며, 이는 비디오 디코딩 시 지연 시간 8.2% 감소(처리량 증가)로 이어졌습니다. 이 기법은 프레임을 호스트 메모리로 전송하는 청크형 비디오 생성 파이프라인을 사용하는 모든 고객에게 이점을 제공할 것으로 예상됩니다.