WiCi Inferは、SSDからストリーミングすることで8... ノート
HackerNoon 日本語

WiCi Inferは、SSDからストリーミングすることで800BパラメータのAIモデルをラップトップで実行します。

WiCi Inferは、SSDからウェイトをストリーミングすることで、MacおよびPCで800BパラメータのAIモデルを実行できる無料のデスクトップアプリです。仕組みと速度は以下の通りです。