「ローカルLLMを動かしてみたいけれど、どのくらいのスペックが必要か」と悩む場合、重要になるのはモデルを読み込むためのメモリ容量と、処理速度に関係するメモリ帯域の2点です。
CPUを使う処理、GPUへ割り当てる量、モデル形式、実行ソフトによって速度は変わります。
メモリ容量と帯域だけでは、回答を待つ時間までは決められません。
この記事では、必要メモリを見積もるときの条件と、購入候補を同じ基準で比較する方法を解説します。
必要メモリは、モデル本体と動作時の使用量を分ける
パラメータ数にビット数を掛けると、重みだけを保存するための単純な容量を計算できます。
たとえば全重みを一様に4bitで表す仮定なら、8Bは8×10億×4÷8＝約4GBです。
実際のファイルには量子化の情報などが含まれ、読み込み後にはモデル本体以外のメモリも使います。
| モデル規模の例 | 全重みを一様に4bitとした単純計算 | 購入前に確認すること |
|---|---|---|
| 8B | 約4GB | 実際の配布ファイルと実行時の見積もり |
| 14B | 約7GB | 同上。必要なコンテキスト長を指定する |
| 32B | 約16GB | 同上。GPUとCPUへの配分も確認する |
| 70B | 約35GB | 同上。OSや他アプリが使う分を残す |
この表は必要メモリの保証値ではありません。
Hugging FaceのKVキャッシュの説明のように、会話の長さやキャッシュ方式でも使用量が変わります。
モデルの実ファイル、使うアプリのメモリ見積もり、空きRAM/VRAMを照合してください。
MoEモデルでは、全体のパラメータ数と各トークンの計算に使う範囲が異なります。
小さいモデルと同じ読み込み量や計算量を前提にせず、そのモデルの形式と実行ソフトに対応する条件を確認します。
メモリに収まるだけで希望する速度が出るとは限りません。
メモリ帯域の割り算は、実測速度ではない
帯域をモデルサイズで割る計算は、転送量を単純化した参考値です。
たとえば帯域100GB/s、毎回読み出すデータ5GBと仮定すれば20回/秒になります。
しかし実際には演算やキャッシュ、並列処理、CPU/GPU間の転送などが関係します。
モデルファイル全体を常に1回読むという前提も、モデルや実行方式によって変わります。
| 処理 | 測る値 | 条件 |
|---|---|---|
| 入力を読む処理 | 入力処理の速度・最初の応答までの時間 | 同じ長さと内容の入力を使う |
| 回答を生成する処理 | 生成トークン数と所要時間（tok/s） | 同一モデル・量子化・出力条件で比較する |
| 長い会話 | メモリ使用量・読み込み可否 | コンテキスト長とキャッシュ設定をそろえる |
llama.cppのベンチマークも入力処理とトークン生成を分けています。
この記事では各PCを同条件で実測していないため、帯域の計算値を「快適」「実用」とする根拠には使いません。
読み込めない・遅いときの切り分け
メモリ不足と処理速度の不足を分け、条件を一つずつ変えて確認してください。
| 症状 | 確認する点 | 次に試すこと |
|---|---|---|
| モデルを読み込めない | エラー文、モデルの形式、空きRAMとVRAM | 他のアプリを閉じ、対応する小さなモデルで再確認 |
| 短い質問は動くが長い文章で止まる | 会話の長さとメモリ使用量 | 入力を短くして条件を比較 |
| GPU搭載なのに遅い | 実際の処理先とOS別のGPU対応 | 対応表とドライバー条件を照合 |
| 回答が始まるまで長く待つ | モデル読込と入力処理にかかる時間 | 初回と2回目を分け、同じ入力で比較 |
Ollamaではモデル実行中にollama psを開き、PROCESSORで処理先を確認できます。
会話の長さと確認方法はOllama公式の説明、GPU条件はOS別の対応表を参照してください。
上記の公式資料は2026年10月27日に確認しましたが、掲載PCでの再試験は行っていません。
エラーが出た条件を控えておけば、買い替える前に容量・形式・対応状況のどこで止まったかを比較できます。
構成を比較するときの確認点
① 小さなモデルから試す場合
Mac miniなどを検討する場合は、商品カードと販売ページで世代・メモリ容量・価格を確認します。
先に、使いたいモデルが実行ソフトに対応するか、必要なメモリが空き容量に収まるか確認します。
この記事では掲載商品の生成速度を測定していません。
② メモリ容量を増やして比較する場合
Ryzen AI 9 HX 370搭載機なども、CPU名だけでなく搭載メモリとGPUに割り当てられる容量を確認します。
同じモデル名でも量子化や会話の長さで条件が変わります。
希望する作業と同じ条件の測定結果を探して比較してください。
③ 大きなモデルを扱いたい場合
Ryzen AI Max+ 395搭載機など、大容量メモリの構成を比較する場合も、実際に利用できるメモリと実行ソフトの対応を確認します。
帯域の公称値から実測tok/sを決めず、入力処理と回答生成の両方を比較してください。
特定モデルが動くという理由で購入する前に、モデルの版・形式・量子化・設定が一致する結果を確認します。
スペック選びで確認したい3つのこと
- CPU・GPU・NPUの数値だけでなく、そのハードウェアを使う実行ソフトとモデル形式が対応するか。
- モデル本体に加え、会話用のメモリや他アプリの使用量が収まるか。足りないときは読み込み失敗や処理方式の変更が起きる場合がある。
- 測定条件は同じか。OS・アプリ版・モデル・量子化・コンテキスト長・GPUへの配分をそろえる。
機種ごとの詳細な比較はローカルAI向けミニPC＆ノートPC比較データベースでまとめています。
スペック条件に応じた並び替えや絞り込み検索が可能です。
※本記事に掲載した価格・仕様は2026年9月3日時点の調査に基づきます。
商品情報の調査日：2026年9月3日。
価格は変動するため、購入前に販売ページで最新の情報をご確認ください。
記事内のリンクにはアフィリエイトリンクを含みます。
小型の専用PCを検討する場合
利用するモデル規模と実行環境を定めたうえで、必要なメモリ容量とGPU仕様を照合すれば、ミニPCが用途を満たすか判断できます。
運営メディア「デザノマ」のローカルAI用ミニPCの選び方でも詳しい選び方を解説しています。
ローカルAI用のPC選びは、ほかにも書いています。
最初に試す手順
- 購入前なら、まず手元のPCで対応する小さなモデルを1つ読み込む。
- 同じ短い質問で、最初の応答までの時間と生成速度を記録する。
- 長い資料を扱う予定なら、必要な文量でメモリ使用量と待ち時間を追加確認する。
- 買い替える場合は、この記録と同じ条件の候補機を比較する。
技術説明の確認日：2026年10月20日。
各機種の実測速度と商品価格は今回再調査していません。
掲載カードの価格・構成は販売ページでご確認ください。
