ローカルLLM入門｜自分のPCでAIを動かす方法──Ollama・LM Studio完全ガイド【2026年版】

ローカルLLMとは？「どこで計算するか」の違い

ローカルLLMは自分のPCや管理するサーバーへモデルをダウンロードし、その機械で文章を処理する使い方を指す。LLMは大量の文章などを学習した大規模言語モデルの略だ。クラウドAIとの主な違いは回答を作る計算をサービス提供者のサーバーへ任せるか、手元の機械で行うかにある。

LM Studioはダウンロード済みモデルとのチャットや文書処理を、インターネット接続なしで利用できると説明している。一方、モデルの検索・取得、実行に必要なソフトウェアの追加、更新確認には通信が発生する。オフラインで使いたい場合は、必要なファイルを先にそろえる。[1]

比較する点	ローカルでモデルを実行	クラウドサービスを利用
計算する場所	自分のPCや管理するサーバー	サービス提供者のサーバー
オフライン利用	モデルなどの取得後、対応機能で可能	通常は接続が必要
費用の確認先	機器・電力・ソフトウェアやモデルの利用条件	契約プラン・利用量・追加課金
速度や品質	端末、モデル、設定、入力内容によって変わる	選ぶサービスやモデル、利用枠によって変わる
管理すること	ファイル、更新、アクセス権、接続先	契約、送信可能な情報、サービス側の設定

「ローカルなら無料で無制限」「クラウドなら必ず高精度」とは決められない。たとえば短い文章の整形と、長い専門文書の分析では必要な能力が違う。実際に行いたい作業で比べるのがよい。

機密資料を入れる前に、クラウド機能を確認する

Ollamaはローカルモデルだけでなく、クラウド上のモデルも扱う。アプリやターミナルから使えるため、画面が手元のPCにあることだけでは、計算場所を判断できない。クラウドモデルの利用時には、入力と回答がOllama側で処理される。[2]

Ollamaのクラウド機能を使わない設定として、公式FAQは ~/.ollama/server.json の disable_ollama_cloud を true にする方法、または環境変数 OLLAMA_NO_CLOUD=1 を案内している。変更後はOllamaを再起動する。この設定はOllamaのクラウド機能を無効にするもので、他のアプリや拡張機能の通信まで止めるものではない。[3]

業務で利用する場合は、次の点も確かめたい。

• モデルの実行場所：ダウンロード済みのローカルモデルを選んでいるか。
• 連携先：外部検索、クラウドストレージ、拡張機能へ資料を渡していないか。
• 保存先と権限：会話履歴や文書ファイルを誰が読めるか。
• 利用条件：会社の規程と、ソフトウェア・モデルそれぞれのライセンスに合うか。

ローカル実行でも、端末の紛失やファイルの共有による漏洩は起こり得る。まず公開情報や架空の例で動作を確かめ、その後に業務データを扱う条件を決める。

必要なPCスペックは？モデルのサイズと空きメモリを見る

必要なメモリ量はモデルの大きさだけでなく、量子化の方式、入力する文章の長さ、同時に処理する数でも変わる。量子化はモデルの数値表現を圧縮してファイルやメモリの使用量を抑える方法で、回答品質にも影響し得る。LM Studioの公式資料でも、同じモデルに複数の量子化ファイルがあると説明している。[4]

LM Studioが示す推奨条件の一部は次のとおりだ。これはアプリの動作環境であり、すべてのモデルが快適に動く保証ではない。[5]

環境	公式資料の条件・推奨
Apple Silicon搭載Mac	macOS 14.0以降。RAM 16GB以上を推奨。8GBでは小さなモデルと控えめな入力長を選ぶ
Windows x64	AVX2対応CPU。RAM 16GB以上、専用VRAM 4GB以上を推奨
Windows ARM	Snapdragon X Elite系に対応。利用するモデルと実行環境も確認する

VRAMはGPUが使うメモリを指す。CPU側のRAMと区別して確認する。Apple SiliconではCPUとGPUがメモリを共有するため、搭載容量のすべてをモデルだけに使えるわけではない。OSやほかのアプリにも余裕を残したい。

たとえばOllamaの qwen3:4b は、確認時点で約2.5GBの配布ファイルがある。ただし、ファイル容量と実行時に必要なメモリ量は同じではない。 このモデルは導入例として選んだもので、最新モデルや日本語性能の首位として勧めるものではない。[6]

Ollamaの始め方：一つのローカルモデルを動かす

Ollamaを使う場合は、公式サイトからOSに合った配布物を入れる。macOS・Windowsにはダウンロードページがあり、Linuxの手順も公式リポジトリから確認できる。第三者が配る同名のアプリと取り違えないよう、配布元を確かめる。[7]

インストールしてOllamaを起動したら、ターミナルで次を実行する。この例では先ほどの qwen3:4b を指定している。[6]

ollama run qwen3:4b

初回はモデルの取得に時間がかかる。取得後は「次の文章を三行で要約して」のような短い入力から試す。ダウンロードが終わる時間や、回答が出る速さは回線とPCによるため、「30分で導入できる」といった一律の時間は見込まないほうがよい。

モデルの管理に使う基本コマンドも押さえておこう。以下の qwen3:4b は実際に使うモデル名へ置き換えられる。[8]

コマンド	用途
ollama pull qwen3:4b	モデルを取得する
ollama ls	取得済みのモデルを一覧表示する
ollama ps	実行中のモデルを確認する
ollama stop qwen3:4b	実行中のモデルを停止する
ollama rm qwen3:4b	保存したモデルを削除する

起動できない、あるいはPCの操作まで遅くなる場合は、空きメモリとモデルのサイズを確認する。すぐに大型GPUを購入するより、まず小さなモデルや短い入力で動くかを切り分けられる。

LM Studioの始め方：画面からモデルを選ぶ

LM Studioは画面からモデルを検索して取得できるアプリだ。公式ダウンロードページにはBionicとLM Studioの配布欄がある。この手順では「Download LM Studio」の欄から、OSに合うものを選ぶ。[9]

インストールした後は、モデル検索画面の「Discover」でモデル名を探す。同じ名前でも提供者や量子化方式が違うため、配布元とモデルカードの説明を確かめる。[4]

導入時は次の順序で進めると確認しやすい。

1. OSとCPUが、LM Studioの対応環境に含まれるかを調べる。
2. Discoverで小さなモデルを検索し、利用条件とファイル容量を見る。
3. PCで扱える量子化ファイルをダウンロードする。
4. チャット画面でモデルを選び、公開情報を使った短い質問を試す。
5. オフラインで使う場合は、必要なモデルと実行環境を取得した後、通信を切った状態でも目的の機能が動くか確かめる。

OllamaとLM Studioのどちらがよいかは、操作と連携の好みで決められる。ターミナルのコマンドを使いたいならOllama、モデルの取得とチャットを画面で進めたいならLM Studioが候補になる。両者を同時に導入する必要はない。

API連携では、URLとモデル名の両方を確認する

OllamaはOpenAI APIの一部と互換性のあるインターフェースを提供し、ローカルサーバーでは http://localhost:11434/v1/ を使う。ただし、接続先をこのURLへ替えるだけで、すべてのChatGPT対応ツールが動くわけではない。ツールが使うAPIと、Ollamaが対応する機能の一致を確認する。[10]

同じ公式資料にはローカルサーバーを通してクラウドモデルを使う方法もある。したがって、localhost というURLだけで、入力が端末外へ出ないとは判断できない。 選択モデルとクラウド設定も合わせて見る必要がある。[10]

社内文書を検索して回答するRAGでも、回答を作るモデルだけをローカルにすれば十分とは限らない。文書の保存先、検索処理、埋め込みと呼ばれる検索用データの生成先まで確認したい。仕組みの整理にはRAGの解説記事も参考になる。

どんな用途から試すとよい？

ローカルLLMを試すなら、出力の正しさを自分で確認できる作業から始める。たとえば、自分が書いた短文の整形、公開された文章の要約、サンプルコードの説明などだ。同じ入力を何度か試すと、役立つ部分と間違えやすい部分がわかる。

費用を比べる際は、API料金だけでなく、モデルの取得や更新にかかる手間、電力、機器、回答を確かめる時間も含める。すでにあるPCで用途を満たせるなら導入しやすい。一方、仕事を速く終えるために高価な機器が必要なら、クラウドの利用料と合わせて検討する余地がある。

業務の判断や公開物へ使う出力は、元資料や実行結果で確かめる。ローカル実行はデータの処理場所を選ぶ方法であり、回答の正確さを保証するものではない。

よくある質問

GPUを持っていなくても試せる？

対応する実行環境と小さなモデルを選べば、CPUやApple Siliconで試せる場合がある。ただし速度や使えるモデルは端末によって変わる。LM Studioの対応環境と、選ぶモデルの条件を先に確認したい。[5]

インターネットを切ってからインストールできる？

モデルや実行環境を未取得の状態では、通常は先にダウンロードが必要だ。LM Studioは取得済みモデルのチャットや文書処理をオフラインで行えると説明している。更新やモデル検索までオフラインになるわけではない。[1]

日本語で最もよいモデルはどれ？

要約、翻訳、コード生成などの用途、PCのメモリ、入力の長さによって変わる。このガイドでは日本語モデルの横断的な実測比較を行っていない。導入例のモデルで必要な作業を試し、正確さと待ち時間を見て選びたい。

まとめ

• ローカルLLMは手元の機械で言語モデルを実行する方法。アプリ名や画面だけでなく、モデルの実行場所と外部連携を確認すると、データの行き先を判断できる。
• 初めてなら、今あるPCで小さなモデルを一つ試す。配布ファイルの容量だけで動作を保証せず、空きメモリと実際の用途から機器の追加を考える。
• API料金が発生しないローカル実行でも、機器・電力・管理の費用はある。オフライン利用の条件と回答の確認を含めて、クラウドとの使い分けを決める。

出典・参考

1. LM Studio「Offline Operation」
2. Ollama「Cloud」
3. Ollama「FAQ」クラウド機能の無効化など
4. LM Studio「Download an LLM」
5. LM Studio「System Requirements」
6. Ollama Library「qwen3:4b」
7. Ollama公式GitHubリポジトリ
8. Ollama「CLI Reference」
9. LM Studio公式ダウンロードページ
10. Ollama「OpenAI compatibility」

仕様・手順の確認日：2026年10月20日。