Flux RSS Slashdot

Des chercheurs affirment qu’une nouvelle technique réduit de 95 % la consommation d’énergie de l’IA

BitEnergy AI, Inc. a développé la multiplication de complexité linéaire (L-Mul), une technique révolutionnaire qui réduit considérablement la consommation d'énergie des modèles d'IA jusqu'à 95% sans compromettre la précision. L-Mul remplace les multiplications à virgule flottante complexes par des additions entières plus simples, réalisant des calculs plus rapides et une consommation d'énergie plus faible tout en maintenant la précision. Cette méthode présente un grand potentiel pour réduire l'empreinte énergétique des modèles d'IA, en particulier dans le domaine des grands modèles de langage comme GPT. L-Mul démontre son efficacité dans diverses tâches d'IA, notamment le traitement du langage naturel, les tâches de vision et la raison symbolique, atteignant une précision supérieure aux normes 8 bits existantes avec moins de calculs. L'intégration sans heurt de l'algorithme dans le mécanisme d'attention des modèles basés sur des transformateurs renforce encore son attrait. Cependant, L-Mul nécessite un matériel spécialisé pour réaliser pleinement son potentiel, car le matériel actuel n'est pas optimisé pour cette technique. Les chercheurs travaillent activement au développement de matériel qui prend en charge nativement les calculs L-Mul, visant à débloquer son plein potentiel et à révolutionner l'efficacité énergétique de l'IA.
favicon
science.slashdot.org
Researchers Claim New Technique Slashes AI Energy Use By 95%
Create attached notes ...