Les GPU sont devenus le matériel par défaut pour de nombreuses charges de travail d'IA, mais cette façon de penser a créé un angle mort qui nous freine. Les GPU sont incroyables pour traiter en parallèle d'énormes quantités de données, ce qui est parfait pour entraîner des grands modèles de langage ou exécuter des inférences d'IA à grande vitesse. Cependant, les CPU sont toujours très performants et sont en train d'être oubliés, ce qui pourrait nous coûter du temps, de l'argent et des opportunités. Les CPU ne sont pas obsolètes et peuvent être utilisés pour des tâches d'IA, efficacement et à moindre coût, si seulement on leur en donnait une chance. Les tâches d'IA incluent l'exécution de modèles plus petits, l'interprétation de données, la gestion de chaînes logiques, la prise de décisions, la récupération de documents et la réponse aux questions, ce qui nécessite une pensée flexible et de la logique. Les CPU sont impressionnants pour ce pour quoi ils ont été conçus : des opérations flexibles et basées sur la logique. Les agents autonomes, qui utilisent l'IA pour accomplir des tâches, peuvent fonctionner sur des CPU, et même l'inférence peut être effectuée sur des CPU, en particulier avec des modèles plus petits et optimisés. Les réseaux de calcul décentralisés, comme les DePIN, permettent aux gens de contribuer à leur puissance de calcul inutilisée, créant ainsi un réseau mondial auquel d'autres peuvent accéder, ce qui le rend moins cher, évolutif et rapproche le calcul de la périphérie. En changeant notre façon de penser et en utilisant des réseaux décentralisés pour acheminer les charges de travail d'IA vers le type de processeur correct, nous pouvons libérer l'échelle, l'efficacité et la résilience. Il est temps d'arrêter de traiter les CPU comme des citoyens de seconde zone dans le monde de l'IA et de repenser la façon dont nous mettons à l'échelle l'infrastructure d'IA.
cointelegraph.com
AI's GPU obsession blinds us to a cheaper, smarter solution
bsky.app
Crypto News on Bluesky @crypto.at.thenote.app
Create attached notes ...