ローカルLLMでメモリが足りないときの切り分け｜どこに載っているかを先に見る

ローカルLLMが落ちる、または極端に遅いときは、エラーと実行状態を先に確認します。

メモリ不足のほか、GPUの未対応・未認識、モデル形式、入力の長さなどでも症状が変わります。

モデルの大きさだけでなく、コンテキスト長や同時に動かしている数でも必要な量は変わる。

ここでは、いまどこに載っているかを確かめてから、減らす順番を決める流れを整理する。

Ollamaの公式資料を2026年10月20日に照合しました。

以前のWindows環境での搭載量の記録は残していますが、今回新しくモデル実行や速度を測定した記事ではありません。

まず、どこに載っているかを見る

同じ「遅い」でも、GPUに載っているか、システムメモリに落ちているかで対処が変わる。

Ollamaを使っている場合は、次のコマンドで確かめられる。

ollama ps

以下は公式FAQに掲載された出力例です。

本記事のPCでの測定結果ではありません。

現在の版ではCONTEXTなどの列が追加される場合もあります。

NAME        ID            SIZE    PROCESSOR   UNTIL
llama3:70b  bcfb190ca3a7  42 GB   100% GPU    4 minutes from now

PROCESSORの欄が、どこに載っているかを示している。

CPU/GPUに分かれるとGPUだけで実行する場合より遅くなることがあります。

ただし、PROCESSORはモデルの配置を示す欄であり、GPU使用率や故障原因そのものではありません。

100% CPUでも、容量不足と決めずOllamaのハードウェア対応と利用中のOS・ドライバーを照合します。

「落ちる」ではなく「遅い」という症状のときは、まずここを見る。

落ちる場合は、失敗した時刻とエラー全文も控えます。

Windows版では、エクスプローラーのアドレス欄に%LOCALAPPDATA%\Ollamaを入力し、最新のserver.logでその時刻付近を確認してください。

公式のログ確認手順に沿って、メモリ確保失敗・GPU認識・モデル読み込みのどこで止まったかを調べます。

HTTP 503の「server is overloaded」はリクエストの待ち行列が上限に達した状態なので、この表示だけでRAMやVRAM不足とは判断しません。

手元の機械が何を積んでいるかを見る

減らす量を決めるには、搭載量を知っておく必要がある。

WindowsのPowerShellでは次のように確かめられる。

$cs = Get-CimInstance Win32_ComputerSystem
"{0:N1} GB 搭載" -f ($cs.TotalPhysicalMemory/1GB)

Get-CimInstance Win32_VideoController |
  Select-Object Name,@{n='VRAM_GB';e={[math]::Round($_.AdapterRAM/1GB,1)}} |
  Format-Table -AutoSize

元記事のWindows環境では、上のコマンドでメモリ15.4GB、内蔵GPUの表示上のVRAMは0.5GBと記録されています。

今回の再測定値ではありません。

内蔵GPUはシステムメモリの一部を使う仕組みのため、この表示だけで実際に使える量は決まらない。

Microsoftの定義ではAdapterRAMはバイト単位のuint32です。

この型では4GiB以上を正確に表せないため、大容量GPUのVRAM判定には使えません。

GPUメーカーの管理ツールや仕様と照合し、現在の空き容量は別に確認します。

専用のVRAMを持たない構成では、モデルの大きさがそのままシステムメモリを圧迫する。

減らせるものは4つある

必要な量を下げる主な手段は次の4つです。

効果の大きさはモデルや実行方式によって変わり、常にこの順で効くわけではありません。

コンテキスト設定は元の値を控えてから変更します。

モデルの量子化形式を変える場合は、対応する別タグやファイルの取得が必要です。

単に同じモデルの設定値を1段階下げる操作とは限りません。

コンテキスト長を下げる

コンテキスト長は、一度に扱える長さであり、必要なメモリに直接効く。

Ollamaアプリを使っている場合は、Settingsのコンテキスト長スライダーで現在値を控えてから、小さい値で比較します。

Windowsで環境変数を使う場合は、まずタスクトレイのOllamaを終了します。

Windowsの設定で「環境変数」を検索し、自分のアカウントの環境変数を編集する画面でOLLAMA_CONTEXT_LENGTHを追加または変更して保存します。

たとえば現在値が2048より大きい場合に2048を比較値とし、スタートメニューからOllamaを起動し直してください。

モデルへ同じ短い入力を送った後、ollama psのCONTEXT欄で実際の値を確かめます。

必要な文脈が欠ける場合は、控えた値へ戻し、環境変数を使った場合はOllamaを再起動します。

公式FAQには4096トークンとありますが、現在のコンテキスト長の説明ではVRAM別の既定値が示されています。

全環境を4096と決めず、アプリの設定とollama psのCONTEXT欄（表示される版）を確認します。

次はbash系シェルでサーバーを起動する例です。

2048は比較用の例で、現在の設定がそれより大きい場合に減らす操作になります。

PowerShellへそのまま貼り付ける構文ではありません。

アプリやサービスが既に起動している場合、別サーバーを二重起動せず、その起動方法に応じて設定を変更してください。

OLLAMA_CONTEXT_LENGTH=2048 ollama serve

ollama runの対話中は、次のように指定できます。

変更前後で同じ短い入力を使い、回答に必要な文脈が欠けないか確認します。

/set parameter num_ctx 2048

APIから使う場合はoptionsの中で渡します。

次はbash系シェル向けのcurl例です。

Windows PowerShellでは引用符やcurlの扱いが異なるため、同じ表記のまま実行しないでください。

curl http://localhost:11434/api/generate -d '{
  "model": "llama3.2",
  "prompt": "Why is the sky blue?",
  "options": {
    "num_ctx": 2048
  }
}'

長い文章を一度に渡す使い方をしていると、既定より大きい値に設定していることがある。

その設定のまま別の作業をすると、必要な量だけが増えたままになる。

量子化を下げる

同じモデルでも、量子化の段階が違えば必要な量が変わる。

低ビットの量子化はモデルの保存容量や必要メモリを減らす候補ですが、回答品質への影響はモデルと質問によって違います。

対応する配布タグと容量を先に確認します。

同じモデル系列の異なる量子化を比較し、入力・コンテキスト長をそろえて、配置と回答の両方を見ます。

1. いまの段階で ollama ps を見て、どこに載っているかを控える
2. 対応する低ビット量子化のタグを取得し、同じ入力で試す
3. PROCESSORの表示が GPU 側に寄ったかを見る
4. 出力を読んで、実用になるかを判断する

小さいモデルでも100% CPUのままなら、容量以外の可能性もあります。

GPU対応・ドライバー・実行ログを確認し、メモリ不足という根拠がある場合にモデルをさらに小さくします。

同時に動かしているものを見る

モデルは、使い終わってもしばらくメモリに残る。

ollama ps のUNTILの欄に、いつまで保持されるかが出る。

メモリに余裕がある場合は複数のモデルが同時に残ることがあります。

余裕がない場合は新しいリクエストが待機し、使っていないモデルが解放されるため、常に前のモデルと次のモデルが同時に載るわけではありません。

また、モデルが1つでも、同じモデルへのリクエストを並列処理する設定では必要なコンテキスト用メモリが増えます。

公式FAQの例では、2048トークンのコンテキストを4並列で処理すると、合計8192トークン分に相当するメモリ確保になります。

OLLAMA_NUM_PARALLELを自分で1より大きく設定している場合は、元の値を控えて1へ戻し、Ollamaを再起動して同じ入力で比較してください。

現行FAQでは既定値は1なので、未変更の場合はモデル数や他のアプリ、入力長の確認を先に進めます。

• ollama ps で、載っているモデルが1つだけかを見る
• ブラウザーや編集ソフトなど、メモリを多く使うアプリを閉じる
• 不要なモデルが残っていれば、使用中の処理がないことを確認して ollama stop モデル名 で解放し、ollama ps で確認する

元記事には搭載15.4GBに対して空きが4GBという記録があります。

空き容量は他のアプリの使用状況で変わるため、自分のPCでも実行直前に確認します。

この状態では、モデルの大きさより先に、他のアプリが使っている分を見るほうが早い。

確かめる順番

1. ollama ps で、PROCESSORの欄を見る
2. 100% CPU なら、GPU対応・認識とエラーを調べてから容量の問題か判断する
3. 実際のコンテキスト長を控え、必要な入力が収まる範囲で小さくして比較する
4. 対応する低ビット量子化を比較し、配置と回答品質を見る
5. 同時に載っているモデルと、他のアプリを減らす
6. それでも変わらなければ、モデルの大きさ自体を見直す

上から順に試すと、戻しやすいものから手を付けられる。

記録しておくこと

これらにOS・Ollamaの版、GPUドライバー、エラー全文、同じ入力での待ち時間を添えると、変更前後を比較しやすくなります。

最初の応答までの時間と生成中の速さを分けて記録してください。

まとめ

• まず ollama ps で、GPUとシステムメモリのどちらに載っているかを見る
• 100% CPUだけで容量不足と断定せず、GPUの対応と認識を確かめる
• コンテキスト長は利用中の版と設定で確かめる
• コンテキスト長、量子化、モデルの大きさ、同時実行の順に減らす
• 内蔵GPUの構成では、表示上のVRAMだけで使える量は決まらない

公式資料の照合日：2026年10月20日。

今回、設定変更とモデル実行の再検証は行っていません。

掲載した搭載量は元記事のWindows環境の記録です。

別のPCで同じ結果や動作を保証するものではありません。

コマンドの詳細はOllama公式のFAQにある。

ローカルLLMの話はAIメソッドのまとめにも置いている。

以前のコード例は、GitHubのMOTOKI-LLC/cg-method-codeにもあります。

本記事の改訂とリポジトリの同期は未確認のため、使用前に記載内容を照合してください。

→ 関連：Ollamaのモデル保存先を変える方法｜環境変数の設定と既存モデルの移動