Amazon11/12まで!スマイルSale開催中!セール会場へ

ローカルLLMでGPUが使われない原因と対処法

ローカルLLMでGPUが使われない原因と対処法

OllamaでGPUが使われないときは、まず ollama ps の PROCESSOR の欄で、モデルがGPUに載っていないのか、一部だけ載っているのかを確かめます。

100% CPU なら、GPUが対応外か、ドライバーが古いか、環境変数やDockerの設定でGPUが見えていないことを疑います。

CPUとGPUに分かれて載っているなら、GPUは認識されています。

空きVRAM不足やオフロードの設定を確認してください。

分割されていることだけで原因をVRAM不足に断定はできません。

この記事は、OllamaやLM Studioでモデルは動くのに、生成が遅くGPUが働いていないように見える方に向けたものです。

内容は、2026年10月18日に読んだOllamaとLM Studioの公式ドキュメントの記載をもとにしています。

実機での再現は含まないため、対応するGPUやドライバーの条件は、更新されることがある公式の一覧で確かめてください。

目次

まずGPUに載っているかを確かめる

OllamaのFAQでは、モデルがGPUに読み込まれたかは ollama ps で確かめるよう案内されています(Ollama公式:FAQ)。

ollama ps

モデルを一度動かした直後に実行し、PROCESSOR の欄を見ます。

この割合はモデルの配置先を表し、GPU使用率ではありません。

行が出ない場合はモデルが読み込まれていない可能性があります。

LM Studioで動かしたモデルはollama psには表示されないため、後半のLM Studioの節を確認してください。

PROCESSORの表示状態この記事で見る場所
100% GPUすべてGPUに載っているGPUは使われている。遅いならモデルやコンテキストの大きさを見る
100% CPUすべてシステムメモリに載っているGPUが見えていない原因を、次の節から順に確かめる
48%/52% CPU/GPU のような表示GPUとシステムメモリに分かれて載っているGPUは認識されている。空きVRAMとオフロード設定を確認する
ollama ps の PROCESSOR の読み方

分かれて載っている場合の減らし方は、ローカルLLMでメモリが足りないときの切り分けで説明しています。

この記事では、100% CPU のまま、GPUがまったく使われていない場合を中心に扱います。

スポンサーリンク

GPUが対応しているかを確かめる

Ollamaのハードウェア対応のページには、GPUの種類ごとの条件が書かれています(Ollama公式:Hardware support)。

NVIDIA

NVIDIAのGPUは、Compute Capability 5.0以上で、ドライバーのバージョン550以上が条件です。

Compute Capability 5.0〜6.2のGPUは、ドライバー570以上が必要と書かれています。

Compute Capability主なGPU(公式の表から抜粋)
12.0GeForce RTX 50シリーズ
8.9GeForce RTX 40シリーズ
8.6GeForce RTX 30シリーズ
7.5GeForce RTX 20シリーズ、GTX 1650 Ti
6.1GeForce GTX 10シリーズ(ドライバー570以上が必要)
5.2GeForce GTX 900シリーズ(ドライバー570以上が必要)
5.0GeForce GTX 750 Ti・750(ドライバー570以上が必要)
OllamaのNVIDIA対応表の一部(2026年10月18日に確認)

表に無いGPUは、公式ページから案内されているNVIDIAのCompute Capabilityの一覧で確かめます。

AMD

AMDのGPUは、ROCmというライブラリを通して使われます。

Windowsでは、ROCm v7(HIP 7)に対応したドライバーが必要で、対応表に載っているのは Radeon RX 7900 XTX・7900 XT・7900 GRE・7800 XT・7700 XT・7600 XT・7600 と、Radeon PRO W7000番台です。

Linuxでは、Radeon RX 9000・7000・6000番台の一部、Ryzen AIの一部などが対応表に載っており、ROCm v7のドライバーが必要です。

ROCmの対応表に無いGPUでも、同じページでは、WindowsとLinuxでVulkanによる対応が追加で提供されていると書かれています。

Vulkan(Intel・その他のGPU)

Vulkanは、そのバックエンドが入っていれば既定で有効になり、Windowsでは多くのGPUメーカーのドライバーにVulkanの対応が含まれていて、追加の設定は要らないと説明されています。

Linuxでは、多くのディストリビューションで追加の部品を入れる必要があります。

Mac

Appleのチップを積んだMacでは、Metalを通してGPUが使われます。

ただし、FAQでは、macOSのDocker DesktopではGPUの受け渡しができないため、GPUによる高速化は使えないと書かれています。

ドライバーとログを確かめる

Ollamaのトラブル対応のページでは、Ollamaは起動時にGPUを探し、使えるVRAMを調べると説明されています(Ollama公式:Troubleshooting)。

この検出がうまくいかないことがあり、一般には最新のドライバーを使うのが最も良い結果になると書かれています。

ログの場所

GPUが見つからなかった理由は、サーバーのログに残ります。

環境ログの見方
Windows%LOCALAPPDATA%\Ollama の server.log(古いものは server-番号.log)
Mac~/.ollama/logs/server.log
Linux(systemd)journalctl -u ollama で表示
Dockerdocker logs コンテナ名 で表示
ollama serve を手で起動起動したターミナルに表示
Ollamaのログの場所(公式のトラブル対応ページより)

Windowsでは、Win+Rで開いた画面に次のように入力すると、ログのフォルダーを開けます。

explorer %LOCALAPPDATA%\Ollama

詳しいログを出す

同じページでは、Windowsで詳しいログを出す手順として、タスクトレイのメニューからOllamaを終了し、PowerShellで次のように起動し直す方法が書かれています。

$env:OLLAMA_DEBUG="1"
& "ollama app.exe"

AMDの検出については、OLLAMA_DEBUG=1 でGPUを探すときの情報が多く出ると説明されています。

Linuxで見られる症状

  • NVIDIAで、スリープから復帰した後にGPUが見つからずCPUで動くことがあり、nvidia_uvm ドライバーを読み込み直すと回避できる
  • NVIDIAの初期化に失敗すると、ログに 3・46・100・999 などのエラーコードが出る
  • AMDで、ドライバーがROCm 6以前のままだと、GPUの検出が時間切れになってCPUに切り替わる
  • AMDで、/dev/kfd にアクセスするために video や render のグループへの所属が必要になる

どれもOllamaのトラブル対応のページとハードウェア対応のページに書かれている症状です。

設定でGPUを外していないかを確かめる

Ollamaには、使うGPUを選ぶ環境変数があり、ここに無効な値を入れるとCPUだけで動きます。

環境変数働き(公式の説明)
CUDA_VISIBLE_DEVICESNVIDIAのGPUのうち使うものを選ぶ。-1 のような無効なIDにするとCPUを使う
ROCR_VISIBLE_DEVICESAMDのGPUのうち使うものを選ぶ。-1 のような無効なIDにするとCPUを使う
GGML_VK_VISIBLE_DEVICESVulkanのGPUを選ぶ。-1 にするとVulkanのGPUをすべて無効にする
OLLAMA_VULKAN0 にするとVulkanのGPUをすべて無効にする
OLLAMA_LLM_LIBRARY自動の選択をやめて特定のライブラリを使う。cpu_avx2 などを指定するとCPUで動く
GPUの使い方に関わるOllamaの環境変数

以前に試した設定がユーザーの環境変数に残っていないかを確かめます。

PowerShellでは、次のコマンドでGPU関連の変数だけを確認できます。

Processは今のPowerShell、UserとMachineは保存されたユーザー・システム設定です。

起動済みのOllamaプロセスの値を直接読むものではありません。

$gpuNames = @('CUDA_VISIBLE_DEVICES', 'ROCR_VISIBLE_DEVICES',
    'GGML_VK_VISIBLE_DEVICES', 'OLLAMA_VULKAN', 'OLLAMA_LLM_LIBRARY')
foreach ($scope in @('Process', 'User', 'Machine')) {
    foreach ($name in $gpuNames) {
        [pscustomobject]@{
            Scope = $scope
            Name = $name
            Value = [Environment]::GetEnvironmentVariable($name, $scope)
        }
    }
}

GPU以外の環境変数をまとめて出力する必要はありません。

設定を変える前に元の値を控え、変更後はOllamaを再起動して配置先とログを確認します。

OllamaのFAQでは、Windowsでは環境変数をユーザーとシステムの設定から引き継ぐため、変えたらOllamaをタスクバーから終了し、スタートメニューから起動し直すよう案内されています。

内蔵GPUと単体のGPUがあるパソコン

ハードウェア対応のページでは、内蔵GPUと単体のGPUが混在していて、Vulkanの内蔵GPUが不安定な場合は、GGML_VK_VISIBLE_DEVICES に単体のGPUの番号を指定するよう書かれています。

例として、Vulkan1 が単体のGPUなら GGML_VK_VISIBLE_DEVICES=1 とする書き方が挙げられています。

Dockerで動かしている場合

FAQでは、NVIDIA GPUをOllamaのDockerコンテナで使う場合、LinuxかWindows(WSL2)の対応構成とNVIDIA Container Toolkitが必要と書かれています。

トラブル対応のページでは、コンテナからGPUが見えているかを、次のコマンドで確かめるよう案内されています。

docker run --gpus all ubuntu nvidia-smi

NVIDIAの構成では、この結果でコンテナからGPUが見えるか確認します。

失敗時は、GPU認識エラーなのか、Dockerデーモン停止・イメージ取得失敗などの別のエラーなのかをログで分けてください。

AMD向けの確認コマンドではありません。

最初はGPUで動いていたのに、しばらくしてCPUに切り替わる場合は、Dockerのcgroupの管理の設定を変える回避策が同じページに載っています。

LM StudioでGPUが使われない場合

LM Studioでは、モデルを読み込むときのGPUオフロードの割合で、どれだけをGPUで計算するかが決まります。

LM Studioのコマンドラインツール lms のリファレンスでは、--gpu に0〜1の値、off、max を指定でき、指定しなければLM Studioが自動で決めると書かれています(LM Studio公式:lms load)。

lms load --estimate-only モデルのキー --gpu max
lms load モデルのキー --gpu max

--estimate-only を付けると、読み込まずに必要なGPUメモリと全体のメモリの見積もりを表示します。

見積もりがVRAMを超えるなら、GPUに全部は載らないため、小さいモデルやコンテキスト長の短い設定を選びます。

LM Studioの公式ドキュメントでは、推論のエンジン(LM Runtimes)の確認と入れ替えの画面を、Windowsでは Ctrl+Shift+R で開けると書かれています。

システム要件のページでは、Windowsでは4GB以上の専用VRAMが推奨とされています(LM Studio公式:System Requirements)。

GPUオフロードの設定の考え方は、LM Studioの使い方でも説明しています。

スポンサーリンク

確かめる順番

  1. ollama ps で、100% CPU なのか、CPUとGPUに分かれているのかを見る
  2. 分かれているなら、空きVRAMとオフロード設定を確認し、必要に応じてモデルやコンテキストを小さくする
  3. 100% CPU なら、GPUが公式の対応表にあるかを確かめる
  4. ドライバーを最新にし、NVIDIAなら550以上(古いGPUは570以上)になっているかを見る
  5. CUDA_VISIBLE_DEVICES などの環境変数が残っていないかを見る
  6. Dockerなら、コンテナからGPUが見えているかを確かめる
  7. server.log で、GPUの検出に失敗した理由を探す

GPUが対応外の場合は、必要なメモリの目安をローカルLLMに必要なスペックで確かめ、モデルの大きさを見直すか、対応するGPUを検討します。

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

この記事を書いた人

須澤 元貴のアバター 須澤 元貴 代表社員

MOTOKI合同会社 代表社員。
アニメ・映像業界とゲーム業界で、2D・UI・3D・アニメーション制作、映像編集、ツール制作に携わってきました。
現在はWordPressを中心にWebサイトの制作とカスタマイズを手がけています。
著書に『Unity デザイナーズ・バイブル』『Unityゲーム プログラミング・バイブル 2nd Generation』(ボーンデジタル)。
岡山県出身、埼玉県在住。

次に学ぶ・作業環境を選ぶ

学習を続けたい方や、作業環境を整えたい方は、目的に合うガイドをご覧ください。

生成AIのおすすめ書籍

周辺機器の優先度

目次