Исследователи утверждают, что новая технология сокращает использование энергии ИИ на 95%

Компания BitEnergy AI, Inc. разработала революционную технику Linear-Complexity Multiplication (L-Mul), которая существенно снижает энергопотребление моделей искусственного интеллекта (ИИ) до 95% без компромисса в точности. L-Mul заменяет сложные операции умножения с плавающей запятой на более простые целочисленные сложения, достигая более быстрых вычислений и меньшего энергопотребления при сохранении точности. Этот метод имеет большие перспективы для снижения энергопотребления моделей ИИ, особенно в области больших языковых моделей, таких как GPT. L-Mul демонстрирует свою эффективность в различных задачах ИИ, включая обработку естественного языка, задачи компьютерного зрения и символическое рассуждение, достигая более высокой точности, чем существующие стандарты 8-битных вычислений, при меньших вычислительных затратах. Бесшовная интеграция алгоритма в механизм внимания моделей, основанных на трансформерах, еще больше повышает его привлекательность. Однако L-Mul требует специализированного оборудования для полной реализации своего потенциала, поскольку текущее оборудование не оптимизировано для этой техники. Исследователи активно работают над разработкой оборудования, которое поддерживает вычисления L-Mul на уровне железа, стремясь раскрыть его полный потенциал и революционизировать энергетическую эффективность ИИ.