Распределенное обучение ИИ печально известно своей хрупкостью, поскольку потеря одной машины обычно приводит к сбою всей многоузловой задачи, требуя длительного перезапуска инфраструктуры с полной нагрузкой. Для решения этой проблемы экосистема JAX от Google использует эластичное обучение через Pathways, которое преобразует сбой оборудования в обрабатываемое исключение Python, позволяя работающему процессу выжить. При возникновении незапланированного сбоя система автоматически заменяет только вышедшего из строя рабочего, восстанавливает последнюю работоспособную контрольную точку из Cloud Storage и возобновляет обучение на месте, сокращая общее время простоя до двух минут без перезапуска основного управляющего процесса.