RSS Slashdot

Forscher behaupten, neue Technik senkt KI-Energieverbrauch um 95%

BitEnergy AI, Inc. hat Linear-Komplexitäts-Multiplikation (L-Mul) entwickelt, eine revolutionäre Technik, die den Energieverbrauch von KI-Modellen um bis zu 95% reduziert, ohne die Genauigkeit zu beeinträchtigen. L-Mul ersetzt komplexe Gleitkomma-Multiplikationen durch einfachere Integer-Additionen, wodurch schnellere Berechnungen und ein geringerer Energieverbrauch bei gleichzeitiger Genauigkeit erzielt werden. Diese Methode verspricht, den Energiefußabdruck von KI-Modellen, insbesondere im Bereich großer Sprachmodelle wie GPT, zu verringern. L-Mul zeigt seine Effektivität bei verschiedenen KI-Aufgaben, darunter natürliche Sprachverarbeitung, Visionsaufgaben und symbolisches Schlussfolgern, und erreicht eine höhere Präzision als bestehende 8-Bit-Standards bei geringerer Rechenleistung. Die nahtlose Integration des Algorithmus in den Aufmerksamkeitsmechanismus von Transformer-basierten Modellen erhöht seinen Reiz weiter. Allerdings benötigt L-Mul spezielle Hardware, um sein volles Potenzial auszuschöpfen, da die aktuelle Hardware nicht für diese Technik optimiert ist. Die Forscher arbeiten aktiv an der Entwicklung von Hardware, die L-Mul-Berechnungen nativ unterstützt, um ihr volles Potenzial freizusetzen und die Energieeffizienz von KI zu revolutionieren.
favicon
science.slashdot.org
Researchers Claim New Technique Slashes AI Energy Use By 95%