PrismML、AIをクラウドから解放すべく、省エネ1ビットLLMを発表

Bonasi 8Bモデルは、他の8Bモデルと比べて競争力がありながら、14分の1のサイズで、5倍のエネルギー効率を実現しています。 カリフォルニア工科大学発のAIベンチャー、PrismMLは、より重いモデルを凌駕する1ビットの大規模言語モデルをリリースしました。これにより、モバイルデバイスなどでのAIの効率性と実現可能性が向上することが期待されています。