Ollama で検閲なし LLM を使うには？モデルの選び方と日本語の注意点

標準の AI に調べものを頼んで、「お答えできません」と打ち切られた経験はないでしょうか。

同じことを、聞き方を変えて何度も尋ね直しても、調べる手間が増えるだけです。
手元の PC で検閲なしモデルを動かせば、この打ち切りに左右されず、調べものを続けられます。

いざ試そうと Ollama のモデル一覧を開くと、迷うのは「どれを選ぶか」と「どう動かすか」です。

要点

• Ollama での実行は ollama pull <モデル名> と ollama run <モデル名> の 2 つのコマンドから始まります
• 検閲なしモデルは、配布ページや ollama.com で「abliterated」「uncensored」の語を手がかりに探します
• 選ぶ軸は、手元の GPU メモリに収まるサイズと、量子化の段階です
• 日本語の得手不得手はモデルごとに違うため、配布ページの表記と実際の応答で確かめます

1. Ollama で検閲なしモデルを動かすには、何をすればいいのか？#

Ollama をインストールし、モデル名を指定して 2 つのコマンドを実行すれば動きます。

導入から実行までの手順#

Ollama はコマンドで操作する実行ソフトで、画面で操作したい人向けの LM Studio と並ぶ定番です。
どちらを使うかはローカル LLM 入門の比較を参照してください。

• インストール — 公式ドキュメント（https://docs.ollama.com/）の案内に沿って導入します
• 取得 — ollama pull huihui_ai/Qwen3.8-abliterated のように、モデル名を指定してファイルを取得します。容量が数 GB〜数十 GB になるため、時間に余裕のあるときに始めます
• 実行 — ollama run huihui_ai/Qwen3.8-abliterated のように、同じモデル名を渡すと対話が始まります
• 調整 — 指示文や設定を変えたいときは、Modelfile（モデルの設定を書くファイル）にまとめて指定します

検閲なしモデルの名前はどこで探すのか？#

ollama.com のモデル一覧と、Hugging Face などの配布ページで「abliterated」「uncensored」の語を手がかりに探します。

• ollama.com のモデル一覧（https://ollama.com/library） — 公開されているモデルを名前で探せます
• 配布ページ — Hugging Face などのモデルカードに、ベースモデル・加工方法・量子化の一覧が書かれています

実例として、huihui_ai/Qwen3.8-abliterated は上の手順で使った abliterated 版です。
同じベースモデルでも、加工した人が違えば中身は別物になります。
名前の前半に付く配布者の表記まで確認してください。
加工元ごとの違いはQwen3.8-27B abliterated の 4 系統で比べています。

2. どのモデルを選べばいいのか？#

手元の GPU メモリ（VRAM）に収まるサイズから選び、量子化は Q4_K_M を既定にするのが基本です。

サイズは VRAM の容量で決まる#

最初に確認するのは GPU メモリの容量です。Mac ならユニファイドメモリの容量が目安になります。
ここに収まるサイズへ候補を絞るのが出発点です。27B クラスは Q4 の量子化でも 16GB 以上が必要になるため、入門サイズとしては重めです。
たとえば Qwen3.8-27B abliterated は Q4_K_M で 16.8GB を必要とするため、8GB・12GB クラスの GPU では届きません。24GB クラスの GPU か、ユニファイドメモリ 32GB 以上の Mac が目安です。

どのモデルがどのサイズ帯に入るかはuncensored モデルのおすすめで一覧にしています。

量子化の段階はどう選ぶのか？#

同じモデルでも、量子化（数値の細かさを落としてファイルを小さくする加工）の段階が違えば、ファイルの大きさと回答の質が変わります。
迷ったら Q4_K_M、手元の VRAM に余裕があるなら Q6_K を選びます。
量子化の影響は小さなモデルほど出やすく、1B 級では Q5・Q6 寄りにするのが安心です。7〜8B 級なら Q4_K_M を基本にします。
段階ごとの数字の読み方はGGUF の量子化とは？で解説しています。

3. 日本語で使うときは何に注意すればいいのか？#

モデルごとに語彙とトークナイザ（文章を処理できる単位に区切る部品）が違うため、日本語の得手不得手はモデルによって分かれます。
候補を決めつけず、配布ページの表記と実際の応答の両方で確かめます。

配布ページの対応言語の表記を見る#

モデルカードには、対応する言語や学習に使った言語が記載されていることがあります。
日本語が対応言語に挙がっているか、日本語に関する説明があるかを確認します。
表記は配布元の説明なので、自分の用途で快適に使えるかまでは分かりません。

自分の用途の日本語で試す#

専門用語を含む質問、長めの指示、要約など、実際に使う形の日本語で数問試します。
返答の日本語が崩れる場合は、同じベースモデルの別の加工元や、別のサイズのモデルに切り替えます。
配布ページに言語の記述がないモデルでも、自分の用途で問題が出なければそのまま使えます。

4. つまずきやすいのはどんなときか？#

起動しない、遅い、思った答えが返らないといったつまずきは、次の 4 点に分けられます。

• モデルがメモリに載らない — 読み込みの途中で止まる場合は、VRAM の不足がよくある原因です。1 段下の量子化に落とすか、1 段小さいモデルに変えます
• 量子化の段階を間違える — 小さいモデルを Q4 にすると応答の質が落ちやすくなります。極端に低い段階まで落とすと実用が難しくなるため、特別な事情がない限り Q4 以上を選びます
• コンテキスト長（一度に読ませる文章の長さ）の分を見込んでいない — 長い文書を渡す用途では、モデル本体に加えてコンテキスト用の作業領域が必要になります。モデル本体の容量に 10〜20% の余裕を足して見積もります
• ライセンスを確認していない — 利用条件はモデルごとに異なります。加工版では、ベースモデルのライセンスを継承しているかを配布ページで確認します

5. Deepent Research について#

私たち Deepent Research は、回答を極限まで拒否しない LLM チャットサービスです。標準の AI では途中で止まってしまう調べものを、最後まで続けられるように作りました。

• 拒否しない。LLM のガードレールを徹底的に軽減した uncensored・abliterated モデルを採用。標準の AI が「お答えできません」と打ち切る問いにも答えます（Qwen3.5 / Qwen3.8-27B-abliterated 系をプランに応じて使い分け）
• 入力は学習に使わない。調べた内容はサービス提供のためにのみ使われ、AI の学習や他の目的には使用されません。個人情報も厳重に保護し、プライバシーポリシーを公開しています
• 無料で試せる。GPU もインストールも不要、ブラウザを開くだけ。未ログインのお試しは会話が保存されないので、気軽に始められます

→ 登録なしで無料トライアル: https://deepentresearch.com

「どんな問いも、リサーチを止められない」。

No question can stop research.

よくある質問#

Ollama で検閲なしモデルを使うのに費用はかかりますか？#

⌄

Ollama 本体は無料のオープンソースソフトウェアで、使うのに費用はかかりません。
かかるのは、モデルを置くストレージと、動かすときのメモリ、それに電気代です。

ollama pull と ollama run は何が違うのですか？#

⌄

pull はモデルの取得、run は取得したモデルの実行です。
取得したモデルは、run に同じモデル名を渡せば呼び出せます。

日本語でうまく答えてくれないときはどうすればいいですか？#

⌄

モデルごとに語彙とトークナイザが違うため、日本語の得手不得手が分かれます。
配布ページの対応言語の表記を確認し、同じベースモデルの別の加工元や別サイズの版を試します。

量子化はどの段階を選べばいいですか？#

⌄

迷ったら Q4_K_M です。
VRAM に余裕があれば Q6_K に上げ、1B 級の小さいモデルでは Q5・Q6 寄りを選びます。

免責#

本記事は、AI による下書きをもとに、運営が事実関係を確認・加筆・編集して公開しています。
本記事は教育・研究目的の情報提供であり、違法行為や犯罪の助長を意図するものではありません。
数値は第三者の公開レポートおよび配布元の公表値であり、測定条件により変わることがあります。