PrismML представляет энергосберегающую 1-битную LLM в попытке освободить ИИ от облака

Модель Bonasi 8B конкурентоспособна с другими моделями 8B, но в 14 раз меньше и в 5 раз более энергоэффективна. PrismML, AI-предприятие из Калифорнийского технологического института, выпустило 1-битовую большую языковую модель, которая превосходит более тяжелые модели, с ожиданием, что она повысит эффективность и жизнеспособность ИИ на мобильных устройствах, среди прочих приложений…