L'IA transforme divers aspects de la vie, grâce aux progrès de l'infrastructure informatique. La demande de services d'IA croît de façon exponentielle, créant un déséquilibre entre l'offre et la demande dans les centres de données. Cela nécessite de nouvelles architectures et conceptions de systèmes rapidement adaptables. La gestion de l'innovation technologique à travers la pile est cruciale, compte tenu de la complexité et de l'hétérogénéité croissantes des composants. Pour relever ces défis, les centres de données devraient donner la priorité à la fongibilité et à l'agilité grâce à des architectures modulaires, interopérables et standardisées. La distribution et la gestion de l'énergie doivent être standardisées, en explorant l'intégration au réseau et les solutions de stockage par batterie. Le refroidissement des centres de données est également repensé avec des solutions de refroidissement liquide et des interfaces standardisées. La standardisation de l'infrastructure physique et de la télémétrie est essentielle pour une maintenance et une intégration efficaces. Des normes ouvertes pour des systèmes évolutifs et sécurisés, comme Caliptra 2.0 et la signalisation de congestion, sont en cours de développement. La durabilité est également privilégiée grâce à des méthodologies pour mesurer l'impact environnemental de l'IA et à des collaborations sur des initiatives écologiques.