Теперь вы можете запускать любую модель GGUF из хаба моделей Hugging Face с помощью Ollama с помощью одной команды. Узнайте, как это сделать здесь.
kdnuggets.com
Use (Almost) Any Language Model Locally with Ollama and Hugging Face Hub
