RSS スラッシュドット

研究者は、新しい技術がAIエネルギー使用量を95%削減したと主張しています

BitEnergy AI社は、Linear-Complexity Multiplication(L-Mul)と呼ばれる革命的な技術を開発しました。この技術は、AIモデルのエネルギー消費を最大95%削減することができ、精度を損なうことなく実現します。L-Mulは複雑な浮動小数点乗算をより単純な整数加算に置き換え、計算速度を向上させ、エネルギー消費を削減しながら精度を維持します。この方法は、特にGPTのような大規模な言語モデルを含むAIモデルのエネルギー消費を削減する可能性を秘めています。 L-Mulは、自然言語処理、視覚タスク、シンボリック推論などのさまざまなAIタスクでその有効性を示しています。L-Mulは、既存の8ビット規格よりも高い精度を実現しながら、計算量を削減しています。トランスフォーマーベースのモデルにおける注意メカニズムへのシームレスな統合により、L-Mulの魅力がさらに高まります。 しかし、L-Mulは、完全にその潜在能力を発揮するために、特化されたハードウェアが必要です。現在のハードウェアは、この技術に最適化されていないためです。研究者は、L-Mul計算をネイティブにサポートするハードウェアを開発するために積極的に取り組んでおり、AIエネルギー効率を革命的に向上させることを目指しています。
favicon
science.slashdot.org
Researchers Claim New Technique Slashes AI Energy Use By 95%