- Установка Ollama 3 требует как минимум 8-12 ГБ ОЗУ.
- Получите официальный образ Docker Hub для Ollama.
- Запустите образ с помощью Docker в режиме только с CPU.
- Чтобы использовать GPU, установите связанные с NVIDIA инструменты и настройте Docker для использования драйверов GPU.
- Запустите контейнер Ollama с поддержкой GPU с помощью предоставленной команды.
- Доступ к приглашению Ollama в режиме только с CPU или с поддержкой GPU.
- Библиотека Ollama предоставляет различные модели для исследования.
- Официальная домашняя страница: https://ollama.com/
- Страница на GitHub: https://github.com/ollama/
- Docker Hub: https://hub.docker.com/r/ollama/ollama
dev.to
Setting up ollama 3
