HackerNoon на русском
Подписаться
WiCi Infer запускает ИИ-модели с 800 миллиардами параметров на ноутбуке, транслируя их с SSD.
WiCi Infer — это бесплатное настольное приложение, которое запускает ИИ-модели с 800 миллиардами параметров на Mac и ПК, передавая веса с SSD. Вот как это работает и насколько это быстро.