TPU를 훈련 중에 중단하고 몇 초 만에 복구했습니다:... 노트

TPU를 훈련 중에 중단하고 몇 초 만에 복구했습니다: MaxText를 사용한 탄력적 훈련 소개

분산 AI 학습은 단일 머신의 손실이 일반적으로 전체 멀티노드 작업을 중단시켜 시간 소모적인 전체 워크로드 인프라 재시작을 강요하기 때문에 악명 높게 불안정합니다. 이를 해결하기 위해 Google의 JAX 생태계는 Pathways를 통한 탄력적 학습을 활용하며, 이는 하드웨어 오류를 잡을 수 있는 Python 예외로 변환하여 실행 중인 프로세스가 생존할 수 있도록 합니다. 계획되지 않은 오류가 발생하면 시스템은 손상된 워커만 자동으로 교체하고, Cloud Storage에서 마지막으로 유효한 체크포인트를 복원하며, 제자리에서 학습을 재개하여 총 다운타임을 2분 미만으로 최소화하고 메인 컨트롤러 프로세스를 전혀 재시작하지 않습니다.