RSS DEV コミュニティ

AIの楽しみにダイブ:UbuntuのDockerコンテナでDeepSeek-R1を実行する

「Docker コンテナーは、アプリケーション、依存関係、および設定をパッケージ化し、異なる環境での一貫した実行を実現します。これは、正確な構成が必要な AI モデルにとって非常に重要です。このガイドでは、Microsoft Store から Ubuntu を使用して Windows 上に Docker 環境を設定する方法を説明します。まず、Docker のインストールを確認し、必要に応じて apt コマンドを使用してインストールします。NVIDIA GPU の場合、NVIDIA Container Toolkit を curl コマンドと apt コマンドのシリーズを使用してインストールします。次に、docker コマンドを使用して Ollama コンテナーを実行し、リソースの割り当て(GPU、メモリー、CPU)を指定します。さらに、docker コマンドを使用して Ollama コンテナー内で DeepSeek-R1 を実行します。DeepSeek-R1 の異なるバージョンを指定することもできます。AI インタラクションを終了するには、「/bye」と入力します。その後、DeepSeek-R1 を再度起動するには、Ollama コンテナーを起動し、DeepSeek-R1 コマンドを再度実行します。」
dev.to
Dive into AI Fun: Running DeepSeek-R1 on Docker Container on Ubuntu
Create attached notes ...