ローカル LLM とは? 自分の PC で動かす方法と選び方【LM Studio での始め方】
ローカル LLM とは、AI のモデルを運営会社のサーバーではなく自分の PC で動かす使い方です。入力が外部に出ない利点、サービス型との費用の違い、PC スペックの目安、モデルの選び方、無料ソフト LM Studio での始め方を初心者向けに解説します。
この記事の要点
- ローカル LLM は、AI を自前の PC で動かし、入力データを外部サーバーに送信しません。
- 月額料金がかからず、機密資料の処理や個人的な調べものを安全に行えます。
- PC の GPU やメモリ容量に応じて、扱えるモデルの規模と応答速度が決まります。
目次
- 0. 「サービス」と「ローカル」、どっちを選ぶ?
- 1. ローカル LLM とは? 「外に出ない」構造がサービス型との最大の違い
- 2. ローカル LLM のハードルは何か? PC スペック・モデル選び・セットアップ
- ハードル 1:PC の力(GPU とメモリ)
- ハードル 2:モデル選び(サイズと「流儀」)
- ハードル 3:セットアップの手間
- 3. ローカルとサービスのどちらが向いている? 迷ったら「サービスから始めて、物足りなければローカル」
- ローカルが向いている人
- サービスが向いている人
- 費用感の比較
- 迷ったら:サービスから → 物足りなくなったらローカル
- 4. ローカル LLM はどう始めるのか? LM Studio で 4 ステップ(30 分〜1 時間)
- ステップ 1: 自分の PC のスペックを確認する
- ステップ 2: 実行ソフトをインストールする
- ステップ 3: モデルをダウンロードする
- ステップ 4: 動かす
- 5. 初心者はどこでつまずくのか? 3 つのポイントと対処法
- 6. 実行ツールとライセンスはどう選べばよいのか?
- 実行ツールの比較
- 商用利用のライセンス
- 7. Deepent Research について
- よくある質問
- 免責
ローカル LLM とは、AI の本体(モデル)を運営会社のサーバーではなく、自分の PC の中で動かす使い方のことです。
調べた内容が外部のサーバーに出ず、月額料金なしで使い続けられることが最大の利点です。
サービス型 AI との違いと費用感、PC スペックの目安、モデルの選び方、無料ソフト「LM Studio」を使った始め方を、初めての人向けにまとめました。
0. 「サービス」と「ローカル」、どっちを選ぶ?#
迷ったら、まずサービスから始めるのが現実的です。
選択肢は 2 つあります。
- ホスト型サービス(ChatGPT など) — ブラウザで開いてアカウントを作れば、その日のうちに使い始められます。料金の相場は月額 1,000〜3,000 円ほどです
- ローカル LLM — 自分の PC の中でモデルを動かします。いまお持ちの PC で動くなら追加コストはほぼゼロで、月額料金もかかりません。ただし、そのぶん PC の力と、最初のセットアップの手間が必要になります
どのモデルを入れるかを自分で選べて、自由度が高いモデルが世界中の開発者から公開されている点も、ローカルならではの魅力です。
どちらを選ぶかは、入力した内容を外に出したくないかどうかで決まります。
外に出したくないことが最優先ならローカル、まず手間なく試したいならサービスです。
1. ローカル LLM とは? 「外に出ない」構造がサービス型との最大の違い#
LLM は「大規模言語モデル」の略で、大量の文章を学習して質問への応答や文章の作成ができるようになった AI の本体を指します。
たとえるなら、ブラウザ版ゲームとパッケージ版ゲームの違いです。
ブラウザ版ゲームでは、ゲーム本体は運営会社のサーバーにあります。
プレイするたびに通信が発生し、回線が切れれば遊べません。
手軽さが売りですが、遊んでいる場所は常に「向こう側」です。
対するパッケージ版ゲームは、ソフトを自分の機械にインストールして遊びます。
一度入れてしまえば、ネットワークにつながなくても動きますし、
サービス終了で遊べなくなる心配もありません。
ローカル LLM はパッケージ版の方です。
モデルのファイルをダウンロードして自分の PC に置き、会話のすべてをその PC の中で完結させます。
この方式の最大の利点は、調べた内容が自分の PC の中だけで完結することです。
会話はおろか、あなたが何を尋ねたかという記録さえ、外部のサーバーには残りません。
ホスト型サービスの多くは「入力を学習データには使いません」と謳っています。
それ自体は大切な約束ですが、それでも入力した文章は運営者のインフラを通ります。
「使わない」という約束と、「そもそも届かない」という構造は、似ているようで別物です。
ローカル LLM の場合は、モデルのダウンロードさえ終われば、
会話のための通信はそもそも発生しません。
この「外に出ない」性質が役に立つ場面は、たとえば次のようなものです。
- 機密性の高い仕事 — 取引先から預かった資料や公開前の企画書を、要約したり検討させたりしたい。契約上、外部サービスへの入力が禁じられている職場もあります
- 個人的な考証 — 家族や友人には言えない趣味の調べもの、創作のためのデリケートな資料集め。誰の目にも触れさせず、自分のペースで掘り下げられます
- 見られたくない検索履歴 — 健康の不安、お金の悩み、人間関係のもつれ。検索エンジンに打ち込むのさえはばかられる問いほど、AI にじっくり相談したいものです
もちろん、手軽さや応答の速さではサービス型に分があります。
2. ローカル LLM のハードルは何か? PC スペック・モデル選び・セットアップ#
ローカル LLM の導入には、①PC の力、②モデル選び、③セットアップの 3 つのハードルがあります。
ハードル 1:PC の力(GPU とメモリ)#
ローカル LLM は、AI を動かす計算をすべて自分の PC の中で行います。
つまり、PC の力がそのまま「使えるモデルの大きさ」と「応答の速さ」を決めます。
特に重要な部品は 2 つです。
- GPU — 画像処理用の演算装置です。ゲーミング PC に積まれているような高性能なものほど、AI の計算が速くなります
- メモリ — PC の「作業机の広さ」に相当します。モデルはここに載らないと動きません
| モデルサイズ | 必要なメモリの目安 | PC のイメージ |
|---|---|---|
| 7B 級 | 8〜16GB 級 | ゲーム用 PC クラス |
| 13〜14B 級 | 16GB 超 | やや力のある PC |
| 32B 級 | 大容量の GPU メモリ | 本格的なデスクトップ GPU が必要 |
「B」は billion(10 億)の略で、モデル内部の数値の個数を表します。
数が多いほど賢い代わりに、重くなります。
ハードル 2:モデル選び(サイズと「流儀」)#
選ぶ軸は「サイズ」と「出自(流儀)」の 2 つです。
サイズについては、大きいほど応答の質は上がりますが、その分 PC の力を要求します。
初心者は「自分の PC で動く最大サイズ」から始めるのが定石です。
出自については、調べものを打ち切らないモデルに、作り方の流儀がいくつかあります。
代表的なものは次の 3 つです。
- Dolphin 系 — 追加学習でモデルを最初から育てる「教育」の流儀。元祖です
- huihui 系 — 完成したモデルの重み(学習の結果として刻まれた数値)を後から加工する「工房」の流儀。新モデルが話題になると、数日〜数週で加工版が出てきます
- OBLITERATUS 系 — モデルの内部を観察し、拒否の構造を調べてから外す「外科手術」の流儀
同じベースモデルでも、加工者と量子化が違えば実質別物になります。
名前の後ろに付く作者名や記号まで確認してください。
量子化とは、重みの精度をあえて粗くしてファイルサイズを減らす方法で、その軽量化版を量子化版と呼びます。
「Q4」などの表記があり、Q4 級なら品質の劣化をある程度許容する代わりに、軽く動くのが特徴です。
LM Studio でモデルを探すときは、この量子化レベルで絞り込んでいくことになります。
ハードル 3:セットアップの手間#
定番のツールは LM Studio と Ollama の 2 つです。
どちらも無料で、モデルの検索・ダウンロード・実行までを面倒見てくれます。
かかる時間は、最初の 1 回だけ 30 分〜1 時間。手順自体は難しくありませんが、
「PC をいじるのが苦でない」ことは前提条件です。
3. ローカルとサービスのどちらが向いている? 迷ったら「サービスから始めて、物足りなければローカル」#
いまの PC で動くなら、長く使うほどローカルが安く、これから様子見ならサービスが手軽です。
利用頻度で選ぶのがいちばんの近道です。
ローカルが向いている人#
- 「調べた内容を外に出したくない」を最優先にしたい人
- PC いじりが好きな人
- 長く使い込むつもりの人
サービスが向いている人#
- 今すぐ始めたい人
- PC のスペックに自信がない人
- まず気軽に試してみたい人
費用感の比較#
- ローカル(今の PC を使う) — 追加コストはほぼゼロ。電気代が少し増える程度です
- ローカル(PC を新調する) — 十数万円。GPU を積んだデスクトップが現実的なラインです
- サービス — 月額 1,000〜3,000 円程度
月額 3,000 円なら 1 年で 36,000 円です。
今の PC で動くならローカルのほうが安く、新調が必要なら、十数万円はサービス料金の数年分にあたります。
迷ったら:サービスから → 物足りなくなったらローカル#
迷ったときは、この順番をおすすめします。理由は 2 つあります。
- 使用頻度は、使ってみないと分からない — 毎日使う人もいれば、週に数回で足りる人もいます。サービスで自分の使い方を確かめてから投資するほうが、無駄がありません
- 「入力が外に出ない」ことを除けば、機能面はサービスが上 — 最新モデルの性能、応答の速さ、機能の豊富さの点で、素直に使い始めるならサービスのほうが快適です
4. ローカル LLM はどう始めるのか? LM Studio で 4 ステップ(30 分〜1 時間)#
初めてでも、流れは 4 つのステップに収まります。2 回目以降はモデルを追加するだけなので、数分で済みます。
ステップ 1: 自分の PC のスペックを確認する#
まず、自分の PC にどれくらいの力があるかを把握します。
見るのは GPU の有無と、メモリの容量の 2 点です。
Windows ならタスクマネージャー、Mac なら「この Mac について」で確認できます。
ハードル 1 の目安表と照らして、「どのサイズまで動きそうか」の当たりをつけておきます。
ステップ 2: 実行ソフトをインストールする#
定番は 2 つです。
- LM Studio
マウスで操作できる画面(GUI)を持つ、初心者向けの定番。
モデルの検索からダウンロード、チャットまで、このソフト 1 つで完結します。
迷ったらまずこれで十分です - Ollama
コマンド(文字で書く命令文)で操作するタイプ。
画面は簡素ですが軽量で、慣れるとこちらのほうが速いという人もいます
どちらも無料です。
公式サイトからダウンロードし、画面の指示どおりに進めれば完了します。
ステップ 3: モデルをダウンロードする#
LM Studio なら、ソフト内の検索窓にモデル名を入れるだけで候補が出ます。
ここで絞り込みに使うのが量子化レベルで、自分の PC に合わせて Q4 級などの軽量版を選びます。
回答を拒否しない、応答の自由度が高いモデルを使いたい場合は、
Dolphin 系・huihui 系・OBLITERATUS 系の名前で検索してみてください。
最初は「自分の PC で動くサイズ」のものを 1 本選べば十分です。
ステップ 4: 動かす#
ダウンロードしたモデルを読み込み、チャット欄に質問を入力します。
返事が返ってきたら成功です。まずは簡単な質問から試して、応答の速さと質を確かめましょう。
5. 初心者はどこでつまずくのか? 3 つのポイントと対処法#
初めての人がつまずく場所は 3 つに絞られます。
どれも故障でも設定ミスでもなく、対処法はシンプルです。
① 大きなモデルをいきなり入れて動かない。
「せっかくだから高性能なものを」と 32B クラスを入れたところ、読み込みで止まることがあります。
原因は単純で、PC の力がモデルの要求に足りていないだけです。
最初は 7B クラス(メモリ 8〜16GB 級の PC で動くサイズ)から始めて、
余裕がありそうなら少しずつ上げるのが近道です。
② ダウンロードが終わらない。
モデルのファイルは数 GB〜数十 GB の大きさがあります。
一般的な家庭の回線では、1 本あたり数十分〜数時間かかることも珍しくありません。
夜のうちにダウンロードを始めるなど、時間に余裕があるときに進めるのがおすすめです。
③ 応答がじわじわ出てくる。
文字が少しずつゆっくり表示されると、壊れたのかと疑いたくなりますが、ほとんどの場合は正常です。
PC が全力で計算している途中であり、応答速度は PC の力に比例します。特にノート PC では、この傾向が出やすくなります。
遅さが気になるなら、より軽い量子化の版か、一段小さいモデルに切り替えてみてください。
3 つに共通するのは、ソフトの操作が難しいのではなく、PC の力とモデルの要求の組み合わせを探す作業が必要になる点です。
この相性探しを楽しいと思えるか、面倒だと感じるかが、ローカルとサービスの分かれ目になります。
サイズや量子化を変えて試す時間が楽しい人はローカルに向いており、
試行錯誤の段階で億劫になった人は、無理に続けずサービスに戻ってかまいません。
6. 実行ツールとライセンスはどう選べばよいのか?#
初心者は GUI で操作できる LM Studio、スクリプトから呼び出したい開発者は Ollama が選びやすく、商用で使う場合は利用前にモデルごとのライセンスを確認する必要があります。
以下は TechLabs(2026-05-10)と UNICORNEE(2026-06-16)の解説にもとづく整理です。
実行ツールの比較#
| ツール | 形式 | 向いている人 |
|---|---|---|
| Ollama | CLI + REST API | 開発者やスクリプト連携をしたい人(軽量・高速) |
| LM Studio | GUI(クリックで完結) | 初心者(本記事で使用) |
| Jan | GUI(完全オープンソース) | プライバシーを重視する人 |
| llama.cpp | CLI/ライブラリ(C++) | 低スペック PC で動かしたい上級者 |
| vLLM | 本番運用向け | 大量の推論を高スループットで処理したい人 |
いずれのツールも、OpenAI 互換のローカル API サーバーとして使えます。
商用利用のライセンス#
ライセンスはモデルごとに異なります。主なものは次のとおりです。
- Apache 2.0(Qwen 系・Mistral 系など) — 商用利用しやすいライセンスです
- MIT(Phi 系・DeepSeek 系など) — 寛容なライセンスです
- Meta Llama のコミュニティライセンス — 条件があり、大規模サービスでの利用に制限があります
- Google Gemma — 独自の利用規約が適用されます
仕事で使う場合は、利用前に各モデルのモデルカードでライセンスを確認してください。
7. Deepent Research について#
私たち Deepent Research は、回答を極限まで拒否しない LLM チャットサービスです。標準の AI では途中で止まってしまう調べものを、最後まで続けられるように作りました。
- 拒否しない。LLM のガードレールを徹底的に軽減した uncensored・abliterated モデルを採用。標準の AI が「お答えできません」と打ち切る問いにも答えます(Qwen3.5 / Qwen3.8-27B-abliterated 系をプランに応じて使い分け)
- 入力は学習に使わない。調べた内容はサービス提供のためにのみ使われ、AI の学習や他の目的には使用されません。個人情報も厳重に保護し、プライバシーポリシーを公開しています
- 無料で試せる。GPU もインストールも不要、ブラウザを開くだけ。未ログインのお試しは会話が保存されないので、気軽に始められます
→ 登録なしで無料トライアル: https://deepentresearch.com
「どんな問いも、リサーチを止められない」。
No question can stop research.
よくある質問#
ローカル LLM に必要な PC のスペックはどのくらいですか?#
初心者向けの 7B 級モデルなら、メモリ 8〜16GB 級のゲーム用 PC クラスで動きます。
大きなモデルほど応答の質は上がりますが、そのぶん要求スペックも上がります。
ローカル LLM はインターネットにつながなくても使えますか?#
モデルのダウンロードさえ終われば、会話のための通信は発生しません。
通信環境のない場所でも使え、調べた内容が外部に出ないのが最大の利点です。
ローカル LLM のセットアップは難しいですか?#
LM Studio などの無料ソフトを使えば、手順自体は難しくありません。
かかる時間は最初の 1 回だけ 30 分〜1 時間で、2 回目以降は数分で済みます。
ただし「PC をいじるのが苦でない」ことは前提条件です。
免責#
本記事は、AI による下書きをもとに、運営が事実関係を確認・加筆・編集して公開しています。
本記事は教育・研究目的の情報提供であり、違法行為や犯罪の助長を意図するものではありません。
数値は第三者の公開レポートおよび配布元の公表値であり、測定条件により変わることがあります。
本記事の編集と検証
公式ドキュメントや論文などの一次情報と照合し、客観的な事実に基づいて整理しています。
本記事は、AI による下書きをもとに、運営が事実関係を確認・加筆・編集して公開しています。
関連ノート
abliteration(アブリテレーション)とは?「拒否しない AI」を作る仕組みをやさしく解説
abliteration(アブリテレーション)とは、AI の「拒否の方向」を打ち消して、学んだ知識はそのままに拒否だけを外す技術です。なぜ AI は答える前に止まるのか、仕組み、変わる点、注意点、よくある誤解までやさしく解説します。
Uncensoredモデル おすすめ10選【2026年版】GPUメモリ別 uncensored LLM の選び方
2026 年の uncensored モデル(uncensored LLM)は Qwen 系の abliterated が主流です。GPU メモリ別におすすめ 10 本を比較し、uncensored と abliterated の違いと選び方、動かし方まで解説します。
GGUF の量子化とは?Q4_K_M・Q8_0 の違いと選び方【ローカル LLM はどれを選ぶ?】
GGUF の量子化とは何か、Q4_K_M など記号の読み方、Q4・Q6・Q8 の精度と速度の違い、自分の PC に載るサイズの見積もり方を、Llama 3.1 8B の公開研究値をもとに解説します。ローカル LLM の選び方が分かります。
この仕組みを、試す
Deepent Research は、回答を極限まで拒否しない LLM チャットサービスです。この記事で扱ったモデルと技術を、ダウンロードなしでそのまま試せます。