Amazonで商品を見るセール会場へ

ローカルLLMの日本語おすすめモデル|メモリ別の選び方と量子化の見分け方

PCを用意してOllamaやLM Studioを入れたあと、次に迷うのがどのモデルを入れるかです。

選択肢が多いうえ、日本語の扱いはモデルによってかなり差があります。

この記事では、搭載メモリ別に日本語で使えるモデルを整理します。

まず1つ選ぶなら、という観点でまとめました。

目次

メモリ別・まず入れるならこれ

搭載メモリおすすめファイルサイズ目安使い心地
8GBGemma 3 4B約3GB軽い要約・下書き向き
16GBQwen3 8B約5GB日本語が安定。最初の1つに
32GBQwen3 14B約9GB文章の質が一段上がる
64GBQwen3 32B / Gemma 3 27B約20GB実用的な文章作成ができる
128GBgpt-oss 120B約65GB推論を要する作業まで

迷ったらQwen3の8Bから始めてください。

日本語の自然さと動作の軽さのバランスが良く、メモリ16GBのPCで動きます。

用途別に選ぶ

日本語の文章を書かせる:Qwen系

Alibabaが開発したQwen3は、多言語対応が売りで日本語の扱いが比較的安定しています。

要約、メールの下書き、文章の言い換えといった日常的な用途で使いやすいモデルです。

8B・14B・32Bとサイズが揃っているので、PCに合わせて選べるのも利点です。

ollama run qwen3:8b

軽さ重視:Gemma 3

Googleが公開しているGemma 3は、小さいサイズでもまとまった応答を返します。

4Bならメモリ8GBのPCでも動くので、非力なPCで試したい場合の入口になります。

27B版はメモリ64GBクラスで動き、こちらは文章の質が大きく変わります。

ollama run gemma3:4b

プログラミング補助:Qwen2.5-Coder

コード生成に特化したモデルです。

コメントを日本語で書きながらコードを生成させる、といった使い方ができます。

汎用モデルよりコードの精度が高いので、開発用途なら別途入れておく価値があります。

ollama run qwen2.5-coder:7b

考えさせる作業:gpt-oss

OpenAIが公開したモデルで、20Bと120Bがあります。

20Bはメモリ16GBから動き、手順を追って考えるような作業が得意です。

120Bは約65GBあるため、動かすにはユニファイドメモリ128GBのPCが必要になります。

ollama run gpt-oss:20b

120B版の詳細はgpt-oss-120bをローカルで動かす方法にまとめています。

量子化はどれを選ぶか

同じモデルでも「Q4_K_M」「Q5_K_M」「Q8_0」など複数の種類が並んでいて迷います。

これはモデルを圧縮する強さの違いです。

種類サイズ品質選ぶ場面
Q4_K_M小さい実用十分基本はこれ
Q5_K_M中くらいやや良いメモリに余裕がある
Q8_0大きいほぼ劣化なし品質を優先したい

特に理由がなければQ4_K_Mで問題ありません。

サイズと品質のバランスが良く、広く使われている形式です。

同じメモリなら「大きいモデルをQ4で動かす」ほうが「小さいモデルをQ8で動かす」より満足度が高くなる傾向があります。

日本語で使うときの注意点

  • 小さいモデルほど日本語が不自然になります

    4Bクラスは英語より日本語のほうが精度が落ちる傾向があります
  • 指示は具体的に書くほど安定します

    クラウドAIより曖昧な指示に弱いため、役割と出力形式を明示すると結果が変わります
  • 最新の情報は持っていません

    学習時点までの知識しかないので、事実確認が必要な用途には向きません

モデルを増やすとストレージを圧迫します

いくつか試すうちに、モデルだけで数百GBに達します。

使わないものは削除するか、ストレージの増設を検討してください。

ollama rm モデル名

2TB以上のSSDがあると、モデルを消さずに試し比べができます。

KIOXIA
¥63,980 (2026/09/10 10:01時点 | Amazon調べ)
\Amazonで商品を見る/
Amazon
\楽天市場で商品を見る/
楽天市場
\Yahoo!ショッピングで商品を見る/
Yahooショッピング
\メルカリで商品を見る/
メルカリ

もっと大きなモデルを動かしたくなったら

使っているうちに「14Bだと物足りない」と感じたら、ボトルネックはPC側です。

動かせるモデルの上限はメモリ容量、生成の速さはメモリ帯域で決まります。

32Bクラスまで動かす:GMKtec EVO-X2(64GB)

メモリ帯域256GB/sと64GBのユニファイドメモリで、Qwen3 32BやGemma 3 27Bが快適に動きます。

文章の質が一段変わるので、常用するなら投資する価値があります。

GMKtec
¥370,526 (2026/09/09 12:07時点 | Amazon調べ)
\Amazonで商品を見る/
Amazon
\楽天市場で商品を見る/
楽天市場
\Yahoo!ショッピングで商品を見る/
Yahooショッピング
\メルカリで商品を見る/
メルカリ

120Bまで動かす:GMKtec EVO-X2(128GB)

gpt-oss 120Bを載せるには128GBが必要です。

ユニファイドメモリは後から増設できないため、狙うなら最初から選んでおく必要があります。

GMKtec
¥656,469 (2026/09/09 12:07時点 | Amazon調べ)
\Amazonで商品を見る/
Amazon
\楽天市場で商品を見る/
楽天市場
\Yahoo!ショッピングで商品を見る/
Yahooショッピング
\メルカリで商品を見る/
メルカリ

まとめ

最初の1つはQwen3 8B、量子化はQ4_K_Mを選べば、多くの場合うまくいきます。

そこから用途に応じてコード特化やgpt-ossを足していくのが、遠回りの少ない進め方です。

モデルの入れ方はLM Studioの使い方Ollamaの使い方入門を参照してください。

PC側の検討にはAI向けPC比較データベースをどうぞ。

※本記事に掲載した価格・仕様は2026年9月3日時点の調査に基づきます。
最終調査日:2026年9月3日。
価格は変動するため、購入前に販売ページで最新の情報をご確認ください。
記事内のリンクにはアフィリエイトリンクを含みます。

AI向けパソコンの、いまのおすすめ

用途別に定番を3台だけ挙げます。
そもそも買うべきか迷っている方はクラウドで足りる人・ローカルPCが必要な人の分かれ目から読んでみてください。

① ローカルLLMを本格的に動かす

メモリ帯域256GB/s・64GBのユニファイドメモリで、32Bクラスのモデルが快適に動きます。
ローカルAIを主目的にするなら、いま最もコスパの良い一台です。

GMKtec
¥370,526 (2026/09/09 12:07時点 | Amazon調べ)
\Amazonで商品を見る/
Amazon
\楽天市場で商品を見る/
楽天市場
\Yahoo!ショッピングで商品を見る/
Yahooショッピング
\メルカリで商品を見る/
メルカリ

② 手頃にAIを試してみる

ユニファイドメモリの広い帯域で、8Bクラスのモデルが実用速度で動きます。
合わなければ普段使いのPCとして使えるので、最もリスクの小さい入口です。

Apple
¥149,800 (2026/09/10 15:02時点 | Amazon調べ)
\Amazonで商品を見る/
Amazon
\楽天市場で商品を見る/
楽天市場
\Yahoo!ショッピングで商品を見る/
Yahooショッピング
\メルカリで商品を見る/
メルカリ

③ 画像生成AIをローカルで回す

画像生成の実用ラインであるVRAM 16GBを、デスクトップで確保できる構成です。
同じ予算のノートPCと比べてVRAMが倍になります。

STORM
¥301,000 (2026/09/10 10:00時点 | Amazon調べ)
\Amazonで商品を見る/
Amazon
\楽天市場で商品を見る/
楽天市場
\Yahoo!ショッピングで商品を見る/
Yahooショッピング
\メルカリで商品を見る/
メルカリ

▶ 16機種を用途・予算・形状で絞り込める比較データベースを見る

選び方をもっと詳しく

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

生成AI を学べる本と、活用に効く機材

生成AI は使い方の型を知っているかで結果が変わります。手を動かしながら読める本を中心にまとめました。

生成AI を学べる本

ソーテック社
¥1,980 (2026/09/15 21:25時点 | Amazon調べ)
\Amazonで商品を見る/
Amazon
\楽天市場で商品を見る/
楽天市場
\Yahoo!ショッピングで商品を見る/
Yahooショッピング
\メルカリで商品を見る/
メルカリ
芸術新聞社
¥1,980 (2026/09/15 21:25時点 | Amazon調べ)
\Amazonで商品を見る/
Amazon
\楽天市場で商品を見る/
楽天市場
\Yahoo!ショッピングで商品を見る/
Yahooショッピング
\メルカリで商品を見る/
メルカリ
\Amazonで商品を見る/
Amazon
\楽天市場で商品を見る/
楽天市場
\Yahoo!ショッピングで商品を見る/
Yahooショッピング
\メルカリで商品を見る/
メルカリ

活用に効く機材

\Amazonで商品を見る/
Amazon
\楽天市場で商品を見る/
楽天市場
\Yahoo!ショッピングで商品を見る/
Yahooショッピング
\メルカリで商品を見る/
メルカリ
\Amazonで商品を見る/
Amazon
\楽天市場で商品を見る/
楽天市場
\Yahoo!ショッピングで商品を見る/
Yahooショッピング
\メルカリで商品を見る/
メルカリ
目次