ローカルLLMおすすめモデル｜用途別の選び方とGPUなしノートの実測速度

※本記事にはアフィリエイト広告が含まれます。

ローカルLLMのおすすめモデルを、用途別の選び方が分かるように比べました。

対象は、Ollamaで動くGemma 3・Qwen3・Llama 3.2・gpt-ossの4系統です。

結論は次の表のとおりで、日本語の文章ならgemma3:4b、軽さ重視ならgemma3:1bがおすすめです。

速度の数値は、GPUなしの16GBノートPCで当方が実測したもので、2026年10月25日時点の値になります。

日本語特化モデルの深掘りと必要メモリの計算は別記事に任せ、本記事は「どれを選ぶか」と「PCを買い替えるべきか」に絞ります。

ローカルLLMのモデル一覧（公式の仕様で比べる）

まず、Ollamaのモデルページに載っている公式の仕様を1つの表にまとめました。

容量はダウンロードのサイズで、動かすにはこれより多いメモリがいります。

ベンチマークの点数は載せず、公式の説明と当方の実測だけで比べる方針です。

出典：Ollama：gemma3／Ollama：qwen3／Ollama：llama3.2／Ollama：gpt-oss（2026年10月25日確認）

ライセンスの本文：Gemma Terms of Use／Apache License 2.0

Gemma 3（Google）

1b・4b・12b・27bの4サイズがあり、4b以上は画像も入力できます。

公式は140以上の言語に対応し、質問応答・要約・推論に向くと説明しています。

27bは「1枚のGPUで動くなかでもっとも高性能」と公式が書いていますが、当方は試していません。

Gemma 3を使うには、Ollamaのバージョン0.6以降が必要です。

Qwen3（Alibaba）

0.6bから32bまでサイズの刻みが細かく、思考モードとツール利用に対応しています。

4bについて公式は、100以上の言語と方言に対応し、翻訳に強いとしています。

30bはMoE A3Bという構造で、容量19GBに対してコンテキスト長は256Kです。

思考モードは便利な反面、待ち時間がのびる原因にもなるので、後の節で実例を挙げましょう。

Llama 3.2（Meta）

1bと3bの小さなサイズで、要約・指示にしたがう・ツール利用に向くと公式は説明しています。

公式の対応言語は英語・ドイツ語・フランス語など8言語で、日本語は入っていません。

日本語で使ったときの様子は、実測の節でふれます。

gpt-oss（OpenAI）

20bと120bの2つで、ライセンスはApache 2.0です。

公式は、20bをMXFP4という量子化で「16GBメモリのシステムで動く」とし、推論・エージェント向けと説明しています。

思考の強さをlow・medium・highで切り替えられるのも特徴でしょう。

120bは「80GBのGPU1枚におさまる」と公式が書いており、個人のPCで動かすには別の工夫がいります。

→ 関連：gpt-oss-120bをローカルで動かすには

GPUなしの16GBノートで測った生成速度（当方の実測）

当方で5つのモデルを同じ質問で動かし、生成の速さを測りました。

GPUなしのノートPCなので、GPUのあるPCではこれより速くなりますが、その数値は確かめていません。

計測した環境と方法

• OS：Windows 11 Pro
• CPU：AMD Ryzen 5 7530U（内蔵のRadeonグラフィックス、専用GPUなし）
• メモリ：16GB（実装15.4GB）
• Ollama：0.40.11
• 計測日：2026年10月25日

質問は「WordPressのプラグインを選ぶときに気をつけることを3つ、各1文で日本語で挙げてください」という内容で、各モデルに2回ずつ投げました。

ollama run gemma3:4b --verbose

速さは、--verbose を付けると表示される eval rate（生成速度、トークン/秒）を記録しています。

回数が少ないので、数値は目安として見てください。

生成速度の結果

1B〜4Bのモデルは10〜37 tok/sで、当方の感触では日常の質問に使える速さでした。

8Bのqwen3:8bは約6 tok/sで、1回の回答に約45〜50秒かかり、待ち時間が気になります。

CPUのみの16GBノートで日常的に使うなら、4Bまでが実用ラインというのが当方の結論です。

日本語の出力の様子

gemma3:4bは、開発元の信頼性・レビュー・互換性の3点を理由つきで挙げ、1bより具体的でした。

qwen3:4bは、英語で2,000トークン近く考えてから日本語で答え、1回に3分半かかっています。

思考を切れば短くなる見込みですが、当方では確かめていません。

メモリの目安（容量より多めにいる）

ここでは、モデルを動かすのにいるメモリの考え方をおさえます。

ダウンロード容量より多いメモリがいる

表の容量はファイルのサイズで、動かすときはコンテキスト（会話の履歴を置く領域）のぶんのメモリも使います。

容量と同じだけのメモリしかないPCでは、読み込めないか動作が遅くなると考えてください。

モデルごとの必要メモリの見積もり方は、別記事にまとめています。

→ 関連：ローカルLLMに必要なスペック（メモリの見積もり）

→ 関連：ローカルLLMでメモリが足りないときの切り分け

16GBのノートで動かした範囲

当方の16GBのノートでは、容量5.2GBのqwen3:8bまでを動かしました。

8.2GBのgemma3:12bと14GBのgpt-oss:20bは試していないので、同じノートで動くかは分かりません。

gpt-oss:20bは公式が16GBメモリのシステムを目安にしているので、16GBのPCでは余裕が少ない前提で試してください。

PCを買い替える前に確かめること

先に結論を書くと、4Bまでなら今のPCで試す価値があり、8B以上を日常的に使うなら買い替えが選択肢に入ります。

GPUなしでも4Bまでは動く

当方の実測どおり、専用GPUのない16GBのノートでもgemma3:4bは約11 tok/sで動きました。

まずは手元のPCにOllamaを入れ、gemma3:1bとgemma3:4bを試す順番がおすすめです。

入れ方と最初のコマンドは、入門記事にまとめてあります。

→ 関連：Ollamaの使い方入門

8B以上を日常的に使うならGPUかメモリの多いPC

8Bで約6 tok/s、12B以上は未計測という当方の環境では、大きなモデルの常用は厳しいと判断しました。

買い替えるなら、GPUのメモリ（VRAM）か本体メモリが多い機種を、動かしたいモデルの容量から逆算して選びます。

候補の絞り込みには、当方がまとめたAI向けPCの比較データベースが使えます。

→ 関連：AI向けPC比較データベース（ミニPC・ノート・デスクトップ）

→ 関連：AI性能で選ぶCPU・GPU比較表

ミニPCという選択肢

置き場所を取らずにメモリを多く積める機種として、AI向けをうたうミニPCがあります。

機種ごとのメモリ容量とGPUの有無は、こちらの公式サイトで確かめられます。

GMKtec 公式サイト

Macを候補にするなら、Mac miniで動かした記事も参考になるでしょう。

→ 関連：Mac miniでローカルLLMを動かす

向かない使い方とつまずきやすい点

ここでは、当方が実測で気づいた点と、公式の記載から分かる注意点をまとめます。

• Llama 3.2は日本語に英語がまざる
• Qwen3は思考モードで待ち時間がのびる
• 画像を読ませるなら4B以上、gpt-oss:20bは16GBメモリが目安
• GPUがあるのに速くならない

Llama 3.2の日本語に英語がまざる

llama3.2:3bの回答は日本語でしたが、「コンパatability」のように英語がまざりました。

公式の対応8言語に日本語がないことと合うので、日本語の文章用途には向きません。

日本語で使うなら、Gemma 3かQwen3、または日本語特化モデルを選ぶのが対処です。

→ 関連：ローカルLLMの日本語モデルの選び方

Qwen3は思考モードで待ち時間がのびる

qwen3:4bは思考モードが初期設定のまま入り、英語で2,000トークン近く考えてから答えました。

速さは約9.5 tok/sでも、1回の回答に3分半かかったのはこのためです。

短い質問にすぐ答えてほしい用途では、思考モードを切るか、Gemma 3を選ぶのが対処になります。

思考モードを切ったときの時間は、当方では確かめていません。

→ 関連：ローカルLLMでコーディングする方法

画像は4B以上、gpt-oss:20bは16GBメモリが目安

画像を読ませたいなら、公式で画像の入力に対応するgemma3:4b以上を選びます。

gemma3:1bは公式ではテキストのみで、画像の読み取りの品質は当方では確かめていません。

gpt-oss:20bは公式が16GBメモリのシステムを目安にしているので、8GBのPCでは候補から外れます。

大きなモデルを入れる前に、手元のメモリと表の容量を見比べておきましょう。

GPUがあるのに速くならない

GPUのあるPCなのに当方の数値と変わらないときは、GPUが使われていないおそれがあります。

当方のノートには専用GPUがないため、GPUを使ったときの速さは測れていません。

GPUありの数値は、測れたときにこの記事へ追記する予定です。

ドライバーや設定の切り分けは、別記事にまとめてあります。

→ 関連：ローカルLLMでGPUが使われない原因

まとめ：次にやること

ローカルLLMのモデル選びは、用途と手元のメモリで決まります。

CPUのみの16GBノートなら4Bまでが実用で、8B以上はGPUかメモリの多いPCを検討してください。

次にやることは、この3つです。

1. Ollamaを入れる（入れ方は下の入門記事）
2. gemma3:1bとgemma3:4bを動かし、自分の質問で速さと日本語の様子を見る
3. 8B以上を試して待ち時間が気になったら、GPUかメモリの多いPCを比較データベースで探す

モデルは後から入れ替えられるので、まず小さいものから始めて困らなかった範囲で使うのが近道です。

最後に、この記事で当方が確かめていないことも挙げておきます。

• GPUのあるPCでの生成速度
• gemma3:12b以上・qwen3:14b以上・gpt-oss:20bの速度と、16GBノートで動くかどうか
• gemma3:4b以上に画像を読ませたときの品質
• qwen3の思考モードを切ったときの回答時間
• qwen3:8bで書かせたコードの品質

これらは公式の記載だけをもとに書いているので、使う前に手元で試してください。

→ 次に読む：Ollamaの使い方入門

→ 画面で操作したい人は：LM Studioの使い方（モデル選びの画面もこちら）

→ どちらを使うか迷ったら：OllamaとLM Studioの違い

→ 関連：Ollamaのモデル保存先を変える方法｜環境変数の設定と既存モデルの移動

→ 関連：ローカルLLM向けノートPCの選び方｜VRAM・メモリ・電力の3条件