Gemma 4 26B-A4B abliterated v3 は拒否を消せたか?英語32%・GGUFサイズの選び方
2026年11月10日公開の Gemma 4 26B-A4B abliterated v3 は、スペイン語の拒否を0%にした一方、英語は32%残ると配布元が公表しています。10.6〜26.9GBのGGUFから、12GB・16GB・24GBで動く量子化と注意点を整理します。
対象: 16〜24GB の GPU で Gemma 4 26B-A4B の abliterated 版を動かしたい人
この記事の要点
- v3 はスペイン語の拒否を 27.2% から 0% にした一方、英語は 68.7% から 32.1% に減らしただけで、消してはいません。
- GGUF は Q2_K 10.6GB から Q8_0 26.9GB まで。16GB なら Q3_K_M、24GB なら Q4_K_M が候補です。
- v3 のライセンスは研究用(apache-2.0-restricted-research)で、本番配備は禁止されています。商用利用は配布元の条件を確認してください。
編集部の確認メモ
2026-11-13 時点で、jsantillana の v3 モデルカード、mradermacher の GGUF 一覧、huihui-ai と groxaxo の配布ページ、Google の Gemma 4 モデルカード、Ollama のタグを確認しました。実機での起動と拒否率の独自測定はしていません。v3 の層範囲(L28–L63)は公開 config の 30 層と一致せず、対応は未確認です。
編集方針と AI の使い方 →目次
16GB の GPU で動く MoE を探しているとします。Hugging Face で「Gemma 4 26B-A4B abliterated」を開くと、2026年11月10日に v3 が公開されていました。モデルカードには「スペイン語の拒否 0%」とあります。ところが、英語でいつもの調べものを投げると、まだ「I can't help with that」が返ってきます。
拒否率 0% という表示は、何語を、どの判定で、何問測った数字なのでしょうか。
結論から書くと、v3 はスペイン語の拒否を 27.2% から 0% にしましたが、英語は 68.7% から 32.1% に減らしただけで、消してはいません。ローカルで使うなら、16GB は Q3_K_M 13.3GB、24GB は Q4_K_M 16.8GB が候補です。v3 は研究用ライセンスで、本番配備は禁止されています。商用利用は配布元の条件を確認してください。
この記事では、v3 の数字の読み方、配布 3 系統の違い、12〜48GB の GGUF の選び方を整理します。
v3 が変えたのは、英語の拒否を「半分」にしたこと#
v3 はスペイン語の拒否を 0% にし、英語の拒否を 68.7% から 32.1% へ半分にしました。ただし、英語にはまだ 3 分の 1 が残ります。
v3 のモデルカードは、1058 問の hold-out プロンプトを greedy で 64 トークン生成し、2 種類の判定で拒否を数えています。数字をそのまま並べると、次のようになります。
| 判定 | 言語 | ベース | v3 |
|---|---|---|---|
| collection judge | EN:OFF | 7.6% | 14.5% |
| collection judge | ES:OFF | 27.2% | 0.0% |
| strict string-marker | EN:OFF | 68.7% | 32.1% |
| strict string-marker | ES:OFF | 31.0% | 0.0% |
注目すべきは、判定によって英語の数字が逆に見えることです。collection judge ではベースの 7.6% が v3 で 14.5% に増えています。これは v3 が悪化したのではなく、判定がベースの主要な拒否パターン(I cannot fulfill this request / I am prohibited)を拾いにくいためだとカードに書かれています。同じモデルを同じ判定で比べないと、0% の比較はできません。
strict 判定では、英語は 68.7% から 32.1% へ下がりました。289 問の OFF プロンプトのうち、51 問の拒否が外れています(スペイン語 43、英語 8)。スペイン語は 0% になりましたが、英語は 3 分の 1 が残ります。コードインタープリタのサンドボックス脱出に関する英語の一族は、ベースでも v3 でも拒否されたままです。
つまり v3 は「英語も全部通る」モデルではありません。スペイン語の研究用途では明確に変わっていますが、英語の調べものでは、まだ拒否に当たります。
abliteration とは、モデルの中の「拒否する方向」の成分を、再学習せずに取り除く加工です。モデルの知識を入れ替えるのではなく、拒否の振る舞いだけを弱めます。
Gemma 4 26B-A4B はどんなモデルか#
Gemma 4 26B-A4B は、Google が公開した Gemma 4 ファミリーの MoE モデルです。総パラメータは約 25.2B、1 トークンの計算に使うのは約 3.8B です。
| 項目 | 値 |
|---|---|
| 総パラメータ | 約 25.2B |
| 活性パラメータ | 約 3.8B |
| レイヤー数 | 30 |
| エキスパート数 | 128(8 routed + 1 shared) |
| コンテキスト長 | 262,144 トークン |
| 入力 | テキスト・画像 |
| ライセンス(ベース) | Apache 2.0 |
Mixture of Experts(MoE)は、入力を全部のパラメータで計算せず、選ばれた専門家だけを通す構造です。メモリは 26B 分必要ですが、計算は 4B 級で済みます。16〜24GB の GPU で 26B 級を動かせるのは、この差のおかげです。
コンテキストは 262,144 トークンで、画像入力と thinking モードに対応します。ベースの Hugging Face では 2026-11-13 時点で 5,251,952 ダウンロード、1,763 likes です。
参考: Gemma 4 26B-A4B-it(Hugging Face)
12B・31B との違いは Gemma 4 abliterated はどれを選ぶ?12B・26B MoE・31B の違いと拒否率 で整理しています。
配布は 3 系統。v3 はどれか#
26B-A4B の abliterated 版は、大きく 3 系統あります。v3 はそのうち最も新しいものですが、Ollama の公式タグはまだありません。
| 配布 | 公開 | 形式・サイズ | 特徴 | 向く人 |
|---|---|---|---|---|
| huihui-ai | 2026-04-11 | Ollama 18GB / GGUF 各種 | thinking と non-thinking の両方を加工。最初の 5 層は未加工 | 最短で試したい |
| groxaxo UD | 2026-04-11 | GGUF 22 種、10.0〜27.9GB | Unsloth 系の UD 量子化。mmproj 1.2GB | 量子化を選びたい |
| jsantillana v3 / mradermacher | 2026-11-10 / 11-12 | GGUF 13 種、10.6〜26.9GB | 研究用。英語は 32.1% 残る | 拒否の研究、比較 |
huihui-ai 版は、モデルカードに「thinking と non-thinking の両方を abliterate した」「最初の 5 層は加工していない」「専門家(experts)は加工していない」とあります。手軽さでは最も扱いやすく、Ollama の huihui_ai/gemma-4-abliterated:26b は 18GB です。
groxaxo 版は、huihui-ai 版を UD 量子化したものです。IQ2_M 10.0GB から Q8_K_XL 27.9GB まで 22 種類あり、mmproj も同じリポジトリにあります。
v3 は jsantillana が 11/10 に公開し、mradermacher が 11/12 に GGUF 化しました。Q2_K 10.6GB から Q8_0 26.9GB まで 13 種類です。v3 のライセンスは apache-2.0-restricted-research で、モデルカードにも「defensive security research / red-team tooling research ONLY」「Do not deploy for production」と書かれています。
v3 は研究用ライセンスです。モデルカードは「防御的なセキュリティ研究・レッドチーム用」と明記し、本番配備を禁じています。業務で使うなら、Apache 2.0 の系譜である huihui-ai 版か groxaxo GGUF を選んでください。ただし、配布元が研究・実験用途をすすめている点は同じです。出力の利用に関する法的な判断は別に確認が必要です。
12GB・16GB・24GB で動く GGUF はどれか#
重みのファイルサイズだけを見ると、12GB なら Q2_K 10.6GB、16GB なら Q3_K_M 13.3GB、24GB なら Q4_K_M 16.8GB が収まります。ただし、mmproj と KV キャッシュが別に必要です。
| GPU メモリ | v3 の候補 | サイズ | コンテキストの目安 | 向く用途 |
|---|---|---|---|---|
| 12GB | Q2_K | 10.6GB | 4K〜8K | テキストのみ、短い会話 |
| 16GB | Q3_K_M / Q3_K_L | 13.3 / 13.8GB | 8K〜16K | テキスト中心 |
| 24GB | Q4_K_M | 16.8GB | 16K〜32K | 画像入力も含めるなら Q4_K_S |
| 32GB | Q5_K_M | 19.1GB | 32K | 長めの調査 |
| 48GB | Q8_0 | 26.9GB | 32K+ | 品質優先 |
画像を読ませるなら mmproj が 0.8〜1.2GB 増えます。24GB で Q4_K_M 16.8GB と mmproj 1.2GB を選ぶと、残りは 6GB 弱です。KV キャッシュを入れると 16K でも余裕は多くありません。32K を常用するなら Q3_K_M に落とすか、GPU メモリを増やしてください。
12GB の Q2_K は、重みだけで 10.6GB です。mmproj を外し、コンテキストを 4K 程度に切る前提なら試せます。品質も Q4 より落ちるので、最初の比較用と考えてください。
| Q2_K | 10.6GB | |
|---|---|---|
| Q3_K_S | 12.2GB | |
| Q3_K_M | 13.3GB | |
| Q4_K_S | 15.5GB | |
| Q4_K_M | 16.8GB | |
| Q5_K_M | 19.1GB | |
| Q6_K | 22.6GB | |
| Q8_0 | 26.9GB |
Ollama と llama.cpp で動かす#
最短は Ollama です。ただし、Ollama のタグは huihui-ai 版であって、v3 ではありません。
ollama run huihui_ai/gemma-4-abliterated:26b
18GB の Q4 相当で、thinking と non-thinking の両方が加工されています。Ollama のモデルページでは Text と Image input に対応すると表示されています。
v3 を試すなら、mradermacher の GGUF を llama.cpp で読みます。Q4_K_M と mmproj を同じリビジョンで揃えてください。
llama-cli -m "gemma-4-26B-A4B-it-abliterated-v3.Q4_K_M.gguf" --mmproj "gemma-4-26B-A4B-it-abliterated-v3.mmproj-f16.gguf" --jinja -c 16384 -ngl 99
-c はコンテキスト長、-ngl は GPU に載せる層数です。24GB で Q4_K_M を使うなら -c 16384 から始め、足りなければ下げてください。テキストだけなら --mmproj を外すと 1GB 前後空きます。
LM Studio なら、検索欄に gemma-4-26B-A4B-it-abliterated-v3 を入れて Q4_K_M を選びます。v3 は Ollama の公式タグがないため、GGUF を直接読む形になります。
参考: Ollama で検閲なし LLM を動かすには?モデルの選び方と日本語の注意点
参考: GGUF の量子化とは?Q4_K_M・Q8_0 の違いと選び方
「拒否率 0%」をどう読むか#
配布元の 0% を比べるときは、次の 3 点を確認してください。
- 何語で測ったか。v3 の 0% はスペイン語です。英語は 32.1% 残ります。
- どの判定か。v3 は collection judge と strict の 2 つを出しています。collection judge の英語は 14.5% で、ベースの 7.6% より高い数字になります。判定が違えば順序も変わります。
- 何問か。v3 は 1058 問です。huihui-ai は拒否率を公表しておらず、groxaxo は huihui-ai の量子化なので同じ性質を引き継ぎます。
「0/465」と「0/16」を並べる記事がありますが、問題数と内容が違えば比較できません。自分の用途のプロンプトを 5 本用意して、同じ条件で比べるのが確実です。
ライセンスも配布ごとに違います。ベースは Apache 2.0、huihui-ai と groxaxo は Apache 2.0 の系譜、v3 は研究用です。商用利用を考えるなら、モデルのライセンスと、出力の利用に関する規制を別に確認してください。
参考: 検閲のない AI は違法?uncensored AI を使う前に知っておきたい法的な論点
この記事で確認していないこと#
実機での起動と速度は確認していません。16GB で Q3_K_M がどのコンテキストまで動くか、24GB で Q4_K_M が何トークン/秒出るかは、GPU とランタイムで変わります。
日本語の拒否率も測っていません。v3 のカードは英語とスペイン語だけを評価しています。日本語の調べもので使うなら、自分のプロンプトで試してください。
v3 のモデルカードには「Surgery window: L28–L63」とありますが、公開されている config は 30 層です。層番号の対応は確認できていません。カードの表記をそのまま信用せず、配布元の評価ファイルと照らす必要があります。
huihui-ai のカードには「256 experts per layer」とありますが、Google の config は 128 experts です。この記事では config の 128 を採用しました。カードの表記には揺れがあります。
よくある質問#
12GB の GPU でも動きますか?#
v3 の Q2_K が 10.6GB で、最小の候補です。ただし mmproj を外し、コンテキストを 4K 程度に切る前提で、余裕はほとんどありません。画像入力や長い会話には向きません。
v3 は日本語の拒否も減らしますか?#
配布元は英語とスペイン語だけを評価しています。日本語の拒否率は公表されていません。日本語で使うなら、短い要約・言い換え・調査のプロンプトを 5 本ほど用意して、v3 と huihui-ai 版を同じ条件で比べてください。
Ollama で v3 は使えますか?#
2026-11-13 時点で、v3 の公式タグはありません。Ollama の huihui_ai/gemma-4-abliterated:26b は huihui-ai 版です。v3 は mradermacher の GGUF を llama.cpp か LM Studio で読みます。
商用利用できますか?#
v3 は研究用ライセンス(apache-2.0-restricted-research)で、モデルカードは本番配備を禁じています。商用利用は想定されていないため、業務で使うならベースの Apache 2.0 を継承する huihui-ai 版か groxaxo GGUF を選び、配布元の条件と出力の利用に関する規制を別に確認してください。
Q4_K_M と Q4_K_S はどちらを選べばよいですか?#
24GB なら Q4_K_M 16.8GB、Q4_K_S 15.5GB です。S は少し小さく速い代わりに品質が落ちます。迷ったら M から始め、メモリが足りなければ S にしてください。16GB なら Q3_K_M 13.3GB が先です。
まずは 5 つのプロンプトを用意して、v3 と huihui-ai 版を同じ条件で比べてください。GPU がない場合は、Deepent Research の無料トライアルで、abliterated モデルの挙動を先に確かめられます。
この仕組みを、試す
Deepent Research は、回答を極限まで拒否しない LLM チャットサービスです。この記事で扱ったモデルと技術を、ダウンロードなしでそのまま試せます。
本記事は教育・研究目的の情報提供です。違法行為や犯罪の助長を意図するものではありません。
本記事の編集と検証
編集部が一次情報の原文を確認し、事実関係を整理して公開しています。確認した範囲と、確認していない範囲は記事中の「編集部の確認メモ」に書いています。
関連ノート
Gemma 4 abliterated はどれを選ぶ?12B・26B MoE・31B の違いと拒否率
Gemma 4 abliterated は配布元ごとに加工範囲や拒否率が違います。12B・26B-A4B MoE・31B dense の違いを軸に、主な配布元の公表値や KL ダイバージェンスを比べ、PC 環境別の選び方と Ollama での動かし方を整理します。
GGUF の量子化とは?Q4_K_M・Q8_0 の違いと選び方【ローカル LLM はどれを選ぶ?】
GGUF の量子化とは何か、Q4_K_M など記号の読み方、Q4・Q6・Q8 の精度と速度の違い、自分の PC に載るサイズの見積もり方を、Llama 3.1 8B の公開研究値をもとに解説します。ローカル LLM の選び方が分かります。
Ollama で検閲なし LLM を使うには?モデルの選び方と日本語の注意点
Ollama で検閲なし(uncensored)LLM を使う手順を、モデルの探し方から量子化の選び方まで解説します。日本語で使うときの確認手順と、起動しない・遅いといったつまずきやすい点も整理します。GPU メモリに合わせた選び方が分かります。