楽天セール開催中!ポイント最大11倍!セール会場へ

ローカルLLMに必要なスペックは?メモリ・帯域の目安を7B〜120Bまでサイズ別に解説

「ローカルLLMを動かしてみたいけれど、どのくらいのスペックが必要か」と悩む場合、重要になるのはメモリ容量(動かせるモデルの上限)とメモリ帯域(生成速度)の2点です。

CPUのコア数や動作周波数は生成速度に大きく影響しません。

この記事では、モデルサイズ別の必要メモリ早見表と、予算別の現実的な構成例を解説します。

目次

モデルサイズ別・必要メモリ早見表

ローカルLLMの運用では、一般的に4bit量子化(Q4)されたモデルを用います。

必要メモリの計算目安は「パラメータ数 × 0.6GB」+コンテキスト用に2〜4GBとなります。

モデル規模代表例必要メモリ目安(Q4)動かせる環境の例
7B〜8BLlama 3.1 8B / Qwen3 8B約6〜8GBメモリ16GBのPC・Mac
12B〜14BGemma 3 12B / Qwen3 14B約10〜13GBメモリ24〜32GBのPC・Mac
27B〜32BGemma 3 27B / Qwen3 32B約18〜24GBメモリ48〜64GB(ユニファイド推奨)
70B級Llama 3.3 70B約40〜45GBメモリ96〜128GB(Ryzen AI Max等)
100B超MoEgpt-oss-120b約60〜65GBメモリ128GB(Ryzen AI Max 128GB等)

※MoE(Mixture of Experts)型はパラメータ数のわりに高速に動作する点が特徴で、gpt-oss-120bはアクティブパラメータが約5Bのため、メモリに収まれば実用水準の速度が出ます。

生成速度は「メモリ帯域 ÷ モデルサイズ」で見積もれる

トークン生成ごとにモデル全体をメモリから読み出すため、生成速度の理論上限はメモリ帯域(GB/s)÷ モデルファイルサイズ(GB)で概算できます。

環境メモリ帯域8B Q4(約5GB)の理論上限実用感
一般的なDDR5デュアルチャネル約80〜90GB/s〜17 tok/s8Bなら実用、14B以上は低速
Apple M4(ユニファイド)120GB/s〜24 tok/s8Bが快適
Ryzen AI Max+ 395256GB/s〜51 tok/s32Bクラスまで実用
RTX 5070 Laptop(VRAM 8GB)448GB/s〜90 tok/sVRAMに収まる8Bまでなら非常に高速

読みやすい速度の目安は10 tok/s以上、快適に感じる水準は20 tok/s以上です。

この計算式を把握しておくと、新機種が登場した際もスペック表から動作速度を判断できるようになります。

予算別・おすすめ構成3パターン

① 10万円前後:まず8Bクラスを体験したい場合

Mac mini M4(16GB)が有力な候補になります。

120GB/sの帯域と整備されたMLX・Ollama環境により、8BクラスのローカルLLMを手軽に導入できます。

Apple
¥142,300(2026/09/24 16:59時点 | Amazon調べ)
\楽天ポイント4倍セール!/
楽天市場
Apple(前モデル)
\楽天ポイント4倍セール!/
楽天市場

② 20万円前後:14Bクラスを日常使いしたい場合

Ryzen AI 9 HX 370搭載のミニPCであれば、32GBメモリ構成で14Bクラスまで実用的に動作します。

クラウドAIと併用するメインPCとしても十分な性能を備えています。

MINISFORUM
¥193,799(2026/09/23 13:00時点 | Amazon調べ)
\楽天ポイント4倍セール!/
楽天市場

③ 30万円〜:32B以上を本格運用したい場合

Ryzen AI Max+ 395に64GB以上のユニファイドメモリを組み合わせた構成が有力です。

256GB/sの帯域を持ち、この価格帯で大型モデルを動作させられる現実的な選択肢となります。

70Bやgpt-oss-120bの運用まで見据える場合は、128GB版を検討してください。

GMKtec
¥351,999(2026/09/23 13:00時点 | Amazon調べ)
\楽天ポイント4倍セール!/
楽天市場

スペック選びでよくある誤解

  • 「CPUが速ければ速く動く」→ ほぼ影響しません。
    主なボトルネックはメモリ帯域です。
  • 「VRAM 8GBのゲーミングPCなら余裕」→ 8GBのVRAMに収まるのは8B Q4程度までです。
    容量を超えた分はメインメモリへ退避され、生成速度が大幅に低下します。
  • 「NPUのTOPSが高いほどLLMが速い」→ 現行のローカルLLM実行はGPUおよびCPUが主体です。
    NPUの活用範囲はまだ補助的な位置づけにとどまります。

機種ごとの詳細な比較はローカルAI向けミニPC&ノートPC比較データベースでまとめています。

スペック条件に応じた並び替えや絞り込み検索が可能です。

※本記事に掲載した価格・仕様は2026年9月3日時点の調査に基づきます。

最終調査日:2026年9月3日。

価格は変動するため、購入前に販売ページで最新の情報をご確認ください。

記事内のリンクにはアフィリエイトリンクを含みます。

小型の専用PCを検討する場合

利用するモデル規模と実行環境を定めたうえで、必要なメモリ容量とGPU仕様を照合すれば、ミニPCが用途を満たすか判断できます。

運営メディア「デザノマ」のローカルAI用ミニPCの選び方でも詳しい選び方を解説しています。

ローカルAI用のPC選びは、ほかにも書いています。

よかったらシェアしてね!
  • URLをコピーしました!
  • URLをコピーしました!

次に学ぶ・作業環境を選ぶ

学習を続けたい方や、作業環境を整えたい方は、目的に合うガイドをご覧ください。

生成AIのおすすめ書籍

周辺機器の優先度

目次