연구원들은 새로운 기술이 AI 에너지 사용을 95% 줄였다고 주장합니다.

BitEnergy AI, Inc.는 정확도를 손상시키지 않으면서 AI 모델 에너지 소비를 최대 95%까지 크게 줄이는 혁신적인 기술인 L-Mul(Linear-Complexity Multiplication)을 개발했습니다. L-Mul은 복잡한 부동 소수점 곱셈을 더 간단한 정수 덧셈으로 대체하여 정확도를 유지하면서 더 빠른 계산과 더 낮은 에너지 소비를 달성합니다. 이 방법은 특히 GPT와 같은 대규모 언어 모델의 영역에서 AI 모델의 에너지 발자국을 줄일 수 있는 가능성을 가지고 있습니다. L-Mul은 자연어 처리, 비전 작업, 기호 추론 등 다양한 AI 작업에서 그 효과를 입증하여 기존 8비트 표준보다 더 적은 계산으로 더 높은 정밀도를 달성합니다. 트랜스포머 기반 모델의 어텐션 메커니즘에 대한 알고리즘의 완벽한 통합은 그 매력을 더욱 향상시킵니다. 그러나 L-Mul은 현재 하드웨어가 이 기술에 최적화되어 있지 않기 때문에 잠재력을 완전히 실현하기 위해 특수 하드웨어가 필요합니다. 연구원들은 L-Mul 계산을 기본적으로 지원하는 하드웨어 개발에 적극적으로 참여하고 있으며, 이를 통해 잠재력을 최대한 발휘하고 AI 에너지 효율성을 혁신하는 것을 목표로 하고 있습니다.