ローカルLLM– category –

コマンドを使わずローカルLLMを動かせるLM Studioの使い方を解説。Ollamaとの違い、インストールからモデル選び、GPUオフロード設定、OpenAI互換サーバー機能、動かない時の対処法まで。

DeepSeek-V4.1-Flash-1017を手元で動かすには、普通のゲーミングPCとは桁の違うメモリが要ります。 公式の配布ファイルは約510GBあり、GPU 1枚（VRAM 16〜32GB）では重み全体を収められません。 動作の報告があるのは、DGX Spark 2台やRTX PRO 6000 2枚＋...

gpt-oss-120bの必要メモリを、総容量と利用可能容量、実行環境に分けて整理。Ollamaの基本手順と、速度比較・PC購入前に確認する条件を解説します。

Windows/MacでOllamaを導入し、小さなモデルから試す手順を解説。ローカルとクラウドの違い、基本コマンド、GPU割り当て、保存先の変更、遅いときの確認を整理します。

Qwen・Gemma・gpt-ossなどの候補と、容量だけで判断しない選び方を紹介。要約・メール修正・不明情報の扱いを同じ条件で比べる方法と、量子化やメモリの注意点を整理します。

ローカルLLMでコーディングする方法を、モデルとコンテキスト長の選び方、VS Code・Claude Code・Codex・Clineとの連携、変更を確かめる進め方まで解説します。

ローカルLLMが遅い・落ちるときに、GPU対応とモデル配置を確認し、コンテキスト長・量子化・同時実行を切り分ける手順です。

ローカルLLMでGPUが使われないときに、ollama psでの確認から、GPUの対応条件とドライバー、Docker、環境変数、ログ、LM StudioのGPUオフロードまで順に切り分けます。

ローカルLLMで自分の文書を検索して答えさせるRAGの始め方を、LM Studio、Open WebUIのナレッジベース、Ollamaの埋め込みAPIを使うPythonの3通りで解説します。

Open WebUIをDocker Composeで導入し、ホストPCのOllamaへ接続する手順。ローカル限定のポート設定、履歴の永続化、モデルが表示されないときの確認点を整理します。

ローカルLLMのおすすめモデルを用途別に比較。Gemma 3・Qwen3・Llama 3.2・gpt-ossの公式仕様と、GPUなし16GBノートの実測速度から選び方をまとめます。

Ollamaに接続できないときは、まず127.0.0.1:11434に応答があるかを確かめます。止めたとき・二重起動・OLLAMA_HOSTのポート違い・localhostの遅れ・モデル名の404を、Windows 11とOllama 0.40.11の実機で起こして直しました。DockerとWSLは公式資料の記載です。

OllamaとLM Studioの違いを、操作、API、モデルの入手と管理、ライセンス、クラウド機能の順に比べ、用途別の選び方をまとめました。

生成AIについて書いた記事を、目的別に分類しました。 目的から探す 始める：AIエージェントのデスクトップアプリを入れる手順を確認できます。 設定：Codexアプリの設定画面の解説をご覧ください。 困ったとき：Claudeのエラーメッセージと利用制限を確認...

Ollamaのモデル保存先を変える方法。環境変数OLLAMA_MODELSの設定と、robocopyでの既存モデルの移動をWindows 11の実機で確認し、Mac・Linuxは公式FAQの記載をまとめました。

LM StudioのAPIは、サーバーを起動して http://127.0.0.1:1234/v1 に /v1/models で返ったidを指定すれば、APIキーなしでPythonから使えます。LM Studio 0.4.27とLlama 3.2 3Bで、起動・モデルID・応答・エラーの出方を実機で確かめました。