Kubernetes fait face à des défis pour gérer les défaillances matérielles spécialisées dans les charges de travail d'apprentissage automatique et d'apprentissage profond (AI/ML). Ces charges de travail dépendent lourdement de GPU et d'autres accélérateurs, et les défaillances ont un impact significatif sur les performances. Le modèle Kubernetes existant suppose des ressources statiques, manquant de soutien robuste pour les défaillances matérielles. Les charges de travail d'AI/ML, notamment l'apprentissage et l'inférence, diffèrent significativement des applications traditionnelles dans leurs besoins en ressources et les implications de défaillance. Les travaux d'apprentissage sont intensifs en ressources et nécessitent des redémarrages coordonnés en cas de défaillance, tandis que les tâches d'inférence exigent une opération continue. Les hypothèses existantes de Kubernetes, comme le remplacement facile des ressources et la mise à l'échelle simple des pods, sont insuffisantes pour ces scénarios complexes. Malgré ces défis, Kubernetes demeure la plateforme préférée en raison de sa maturité et de son écosystème. Les solutions actuelles impliquent des contournements manuels, tels que des contrôleurs de santé personnalisés et des observateurs de pods, pour gérer les défaillances de périphériques. Ces solutions ont des limitations et nécessitent un accès privilégié, soulignant la nécessité d'une prise en charge native améliorée de Kubernetes. Le projet Kubernetes travaille activement à améliorer la gestion des défaillances de périphériques, visant à une meilleure fiabilité et une gestion des ressources.