Amazon EKS 上の PyTorch FSDP トレーニングに NVIDIA Resiliency Extension (NVRx) を統合し、チェックポイント I/O をトレーニングとオーバーラップさせ、GPU の障害から数秒で復旧します。この記事では、非同期チェックポイント、インプロセス再起動、および ft_launcher を使用したジョブ内再起動について、2 から 8 ノードでの H100 ベンチマークとともに、99% 以上のトレーニング効率と秒単位の復旧時間を示します。