WiCi Infer запускает ИИ-модели... Заметка
HackerNoon на русском

WiCi Infer запускает ИИ-модели с 800 миллиардами параметров на ноутбуке, транслируя их с SSD.

WiCi Infer — это бесплатное настольное приложение, которое запускает ИИ-модели с 800 миллиардами параметров на Mac и ПК, передавая веса с SSD. Вот как это работает и насколько это быстро.