PCを用意してOllamaやLM Studioを導入したあと、次に検討するのがどのモデルを選ぶかです。
選択肢が多いだけでなく、日本語の処理精度はモデルによって大きく異なります。
この記事では、既存のモデル候補をもとに、日本語の文章を自分の用途で比べる方法を整理します。今回、各モデルの日本語品質や速度を同じPCで実測したランキングではありません。
公開モデルの世代は更新されます。以下は最新版を網羅した一覧ではなく、モデル名・量子化・実行条件を固定して試すための出発点です。
メモリ容量ごとのモデル候補と注意点
| 搭載メモリ | 既存の候補 | 旧掲載の概算サイズ | 試す課題（実測評価ではない） |
|---|---|---|---|
| 8GB | Gemma 3 4B | 約3GB | 短い文章の要約 |
| 16GB | Qwen3 8B | 約5GB | 敬語・メールの下書き |
| 32GB | Qwen3 14B | 約9GB | 長文の条件保持 |
| 64GB | Qwen3 32B / Gemma 3 27B | 約20GB | 事実を変えない文章修正 |
| 128GB | gpt-oss 120B | 約65GB | 複数条件の整理 |
表の搭載メモリは最低要件ではありません。ファイルサイズは版や量子化で変わり、実行時にはOSやキャッシュなどの領域も必要です。ダウンロード前に選んだタグのサイズとランタイムの対応を確認してください。
最初は、手元の空きメモリに収まる小さなモデルで短い文章を試します。16GBという搭載容量だけでQwen3 8Bの速度や日本語品質を保証することはできません。
用途別に選ぶ
日本語の文章作成：Qwen系
Qwen3は多言語対応のモデルです。開発元のQwen3-8Bモデルカードで対応ランタイムや使い方を確認できます。
要約・メール・文章修正を試す候補にできますが、日本語の自然さだけでなく、数字や固有名詞を勝手に変えないかも確認してください。
8B・14B・32Bとサイズ展開が豊富なため、PCのスペックに合わせて選べる点も特徴です。
ollama run qwen3:8b動作の軽さ重視：Gemma 3
GoogleのGemma 3モデルカードには各サイズの仕様と評価条件が公開されています。小さいサイズは試しやすい候補ですが、回答の正しさを保証するものではありません。
4Bを試す場合も、量子化形式と空きメモリを確認します。8GB機で必ず動く、または快適に使えるという一律の条件にはできません。
27B版などへ広げる前に、同じ課題で改善があるか確認します。サイズを増やせば全ての日本語文章が良くなるとは限りません。
ollama run gemma3:4bプログラミング支援：Qwen2.5-Coder
ソースコードの生成や修正に特化したモデルです。
開発元のモデルカードはコード生成・修正を案内していますが、日本語の指示やコメントの品質は使う課題で確認します。
汎用モデルとの優劣は対象言語と課題で変わります。既知のテストを通るか、存在しないAPIを提案しないかを同じ条件で比べてください。
ollama run qwen2.5-coder:7b論理推論・ステップ処理：gpt-oss
OpenAIが公開したオープンモデルで、20Bと120Bのサイズが提供されています。
20Bの必要メモリは実行方式で変わります。OpenAIのTransformers向けガイドではMXFP4利用時に約16GBのVRAMを示していますが、PC全体のRAM16GBで常に動くという意味ではありません。
120BについてOpenAI公式は単一H100 GPUに収まるモデルとして案内しています。「128GBのユニファイドメモリが必須」とは一律に言えません。使うランタイムの要件で判断してください。
ollama run gpt-oss:20b120B版の詳しい設定手順はgpt-oss-120bをローカルで動かす方法で解説しています。
量子化形式の選び方
同じモデルでも「Q4_K_M」「Q5_K_M」「Q8_0」などの選択肢があり、どれを選ぶべきか迷いやすい点です。
これらはGGUFで使われる量子化方式の名前です。同じ元モデルでも、保存サイズや必要メモリ、回答の変化が異なります。全モデルで同じ選択肢が提供されるわけではありません。
| 種類 | サイズ | 品質 | 推奨シーン |
|---|---|---|---|
| Q4_K_M | 小さい | 課題ごとに確認 | 小さい容量から試す場合 |
| Q5_K_M | 標準 | 課題ごとに確認 | メモリに余力がある場合 |
| Q8_0 | 大きい | 元モデルと出力を比較 | 容量を増やした効果を確認する場合 |
GGUFを選ぶ場合は、利用するランタイムが対応する形式を確認し、まず収まる容量の候補を選びます。
量子化を変えた比較では、元モデル・入力・生成設定をそろえます。
Qwen3-8Bは思考あり・なしを切り替えられるため、比較記録に思考設定も残してください。
Ollamaの思考設定はモデルにより異なり、APIの/api/showで対応する値と既定値を確認できます。
小さいモデルを高いビット数で使うか、大きいモデルを低いビット数で使うかは、用途別の確認が必要です。容量だけで日本語品質の優劣は決められません。
日本語でローカルLLMを運用する注意点
- 日本語の出力を課題ごとに確認します。
敬語、固有名詞、数字、指定した文字数や形式を確認します - プロンプトは前提と出力形式を具体的に指定します。
推測して補わせるより、参照してよい情報と回答フォーマットを明記して比較します - 最新の時事情報やリアルタイムデータは保持していません。
学習データに含まれない最新事実の確認を求める用途には適していません
複数モデルを試す際のストレージ容量の管理
モデルの数とサイズによっては保存領域が数百GBに増えるため、取得前に合計容量を見積もります。
削除前にモデル一覧を表示するollama lsで名前とタグを確認し、不要なものだけを削除します。
ollama rm モデル名2TBなどの容量を一律の要件にせず、保存するモデルと作業用の空き領域を合計して選んでください。
より大規模なモデルを動かしたくなった場合の検討点
大きいモデルが遅い場合は、PC購入の前にモデル形式、コンテキスト長、GPUへの割り当てを確認します。
メモリ容量や帯域は判断材料ですが、読み込み可否と速度はランタイムや処理条件にも依存します。
既存の構成例：GMKtec EVO-X2（64GB）
64GBのユニファイドメモリを持つ構成例です。今回、Qwen3 32BやGemma 3 27Bの生成速度は測定していません。
業務で使う場合は、代表的な課題で出力と待ち時間を確認してから判断してください。
120Bクラスまで視野に入れる構成例：GMKtec EVO-X2（128GB）
128GBは大容量構成の一例で、gpt-oss 120Bを動かすすべての環境に必須の値ではありません。必要な空きメモリと対応する実行形式を確認します。
ユニファイドメモリは後から増設できないため、超大型モデルの稼働を想定する場合は初期構成の選定が重要になります。
日本語品質を比べる3つの課題
以下は自分で試すための評価例です。この課題を実行した結果や順位ではありません。モデル名・タグ・量子化・ランタイムの版と、入力から応答完了までの時間を一緒に残してください。
- 要約：自分で正誤を確認できる短い文章を渡し、3つの箇条書きにする。元にない数字や事実を追加したら不合格。
- メール修正：架空の日付・金額を含む依頼文を丁寧語に直す。日付、金額、依頼内容が変わっていないか確認する。
- 不明点の扱い：答えが書かれていない資料について質問し、「資料からは分からない」と答えられるか確認する。
各課題を「事実保持・指示どおりの形式・日本語の読みやすさ」の3軸で、それぞれ0（使えない）・1（修正が必要）・2（その課題では使える）と記録します。合計点だけで決めず、事実の改変があれば業務利用を保留します。少数の課題で全用途の能力を判断せず、実際の仕事に近い入力を増やしてください。
まとめ
最初は手元の空きメモリに収まる候補を選び、同じ日本語の課題で比較してください。起動できることと、仕事に使える品質であることは分けて確認します。
そこから目的に応じてコード特化型やgpt-ossなどの大型モデルを追加していく進め方が効率的です。
各モデルの具体的なセットアップ方法はLM Studioの使い方またはOllamaの使い方入門で解説しています。
マシンスペックの選定についてはAI向けPC比較データベースもあわせて参照してください。
※本記事に掲載した価格・仕様は2026年9月3日時点の調査に基づきます。
モデルカードと比較条件の再確認日：2026年10月26日。
価格は変動するため、購入前に各販売ページで最新の情報をご確認ください。
記事内のリンクにはアフィリエイトリンクを含みます。
複数モデルの保存領域を確保する方法
モデルのダウンロードによって空き容量が逼迫した場合は、モデルファイルの総容量を把握したうえで外付けSSDの導入を検討してください。
外付けSSDの具体的な選び方については、運営メディア「デザノマ」のモデル保存にも使える外付けSSDの選び方で詳しく解説しています。
モデルカードと実行条件は2026年10月20日に確認しました。日本語の比較テスト、機種ごとの速度測定、商品カードの価格再調査は今回行っていません。
