PCを用意してOllamaやLM Studioを入れたあと、次に迷うのがどのモデルを入れるかです。
選択肢が多いうえ、日本語の扱いはモデルによってかなり差があります。
この記事では、搭載メモリ別に日本語で使えるモデルを整理します。
まず1つ選ぶなら、という観点でまとめました。
メモリ別・まず入れるならこれ
| 搭載メモリ | おすすめ | ファイルサイズ目安 | 使い心地 |
|---|---|---|---|
| 8GB | Gemma 3 4B | 約3GB | 軽い要約・下書き向き |
| 16GB | Qwen3 8B | 約5GB | 日本語が安定。最初の1つに |
| 32GB | Qwen3 14B | 約9GB | 文章の質が一段上がる |
| 64GB | Qwen3 32B / Gemma 3 27B | 約20GB | 実用的な文章作成ができる |
| 128GB | gpt-oss 120B | 約65GB | 推論を要する作業まで |
迷ったらQwen3の8Bから始めてください。
日本語の自然さと動作の軽さのバランスが良く、メモリ16GBのPCで動きます。
用途別に選ぶ
日本語の文章を書かせる:Qwen系
Alibabaが開発したQwen3は、多言語対応が売りで日本語の扱いが比較的安定しています。
要約、メールの下書き、文章の言い換えといった日常的な用途で使いやすいモデルです。
8B・14B・32Bとサイズが揃っているので、PCに合わせて選べるのも利点です。
ollama run qwen3:8b
軽さ重視:Gemma 3
Googleが公開しているGemma 3は、小さいサイズでもまとまった応答を返します。
4Bならメモリ8GBのPCでも動くので、非力なPCで試したい場合の入口になります。
27B版はメモリ64GBクラスで動き、こちらは文章の質が大きく変わります。
ollama run gemma3:4b
プログラミング補助:Qwen2.5-Coder
コード生成に特化したモデルです。
コメントを日本語で書きながらコードを生成させる、といった使い方ができます。
汎用モデルよりコードの精度が高いので、開発用途なら別途入れておく価値があります。
ollama run qwen2.5-coder:7b
考えさせる作業:gpt-oss
OpenAIが公開したモデルで、20Bと120Bがあります。
20Bはメモリ16GBから動き、手順を追って考えるような作業が得意です。
120Bは約65GBあるため、動かすにはユニファイドメモリ128GBのPCが必要になります。
ollama run gpt-oss:20b
120B版の詳細はgpt-oss-120bをローカルで動かす方法にまとめています。
量子化はどれを選ぶか
同じモデルでも「Q4_K_M」「Q5_K_M」「Q8_0」など複数の種類が並んでいて迷います。
これはモデルを圧縮する強さの違いです。
| 種類 | サイズ | 品質 | 選ぶ場面 |
|---|---|---|---|
| Q4_K_M | 小さい | 実用十分 | 基本はこれ |
| Q5_K_M | 中くらい | やや良い | メモリに余裕がある |
| Q8_0 | 大きい | ほぼ劣化なし | 品質を優先したい |
特に理由がなければQ4_K_Mで問題ありません。
サイズと品質のバランスが良く、広く使われている形式です。
同じメモリなら「大きいモデルをQ4で動かす」ほうが「小さいモデルをQ8で動かす」より満足度が高くなる傾向があります。
日本語で使うときの注意点
- 小さいモデルほど日本語が不自然になります。
4Bクラスは英語より日本語のほうが精度が落ちる傾向があります - 指示は具体的に書くほど安定します。
クラウドAIより曖昧な指示に弱いため、役割と出力形式を明示すると結果が変わります - 最新の情報は持っていません。
学習時点までの知識しかないので、事実確認が必要な用途には向きません
モデルを増やすとストレージを圧迫します
いくつか試すうちに、モデルだけで数百GBに達します。
使わないものは削除するか、ストレージの増設を検討してください。
ollama rm モデル名
2TB以上のSSDがあると、モデルを消さずに試し比べができます。
もっと大きなモデルを動かしたくなったら
使っているうちに「14Bだと物足りない」と感じたら、ボトルネックはPC側です。
動かせるモデルの上限はメモリ容量、生成の速さはメモリ帯域で決まります。
32Bクラスまで動かす:GMKtec EVO-X2(64GB)
メモリ帯域256GB/sと64GBのユニファイドメモリで、Qwen3 32BやGemma 3 27Bが快適に動きます。
文章の質が一段変わるので、常用するなら投資する価値があります。
120Bまで動かす:GMKtec EVO-X2(128GB)
gpt-oss 120Bを載せるには128GBが必要です。
ユニファイドメモリは後から増設できないため、狙うなら最初から選んでおく必要があります。
まとめ
最初の1つはQwen3 8B、量子化はQ4_K_Mを選べば、多くの場合うまくいきます。
そこから用途に応じてコード特化やgpt-ossを足していくのが、遠回りの少ない進め方です。
モデルの入れ方はLM Studioの使い方かOllamaの使い方入門を参照してください。
PC側の検討にはAI向けPC比較データベースをどうぞ。
※本記事に掲載した価格・仕様は2026年9月3日時点の調査に基づきます。
最終調査日:2026年9月3日。
価格は変動するため、購入前に販売ページで最新の情報をご確認ください。
記事内のリンクにはアフィリエイトリンクを含みます。
