·18 分·Deepent Research 編集部·English

Gemma 4 26B-A4B abliterated v3 は拒否を消せたか?英語32%・GGUFサイズの選び方

2026年11月10日公開の Gemma 4 26B-A4B abliterated v3 は、スペイン語の拒否を0%にした一方、英語は32%残ると配布元が公表しています。10.6〜26.9GBのGGUFから、12GB・16GB・24GBで動く量子化と注意点を整理します。

対象: 16〜24GB の GPU で Gemma 4 26B-A4B の abliterated 版を動かしたい人

この記事の要点

  • v3 はスペイン語の拒否を 27.2% から 0% にした一方、英語は 68.7% から 32.1% に減らしただけで、消してはいません。
  • GGUF は Q2_K 10.6GB から Q8_0 26.9GB まで。16GB なら Q3_K_M、24GB なら Q4_K_M が候補です。
  • v3 のライセンスは研究用(apache-2.0-restricted-research)で、本番配備は禁止されています。商用利用は配布元の条件を確認してください。

編集部の確認メモ

2026-11-13 時点で、jsantillana の v3 モデルカード、mradermacher の GGUF 一覧、huihui-ai と groxaxo の配布ページ、Google の Gemma 4 モデルカード、Ollama のタグを確認しました。実機での起動と拒否率の独自測定はしていません。v3 の層範囲(L28–L63)は公開 config の 30 層と一致せず、対応は未確認です。

編集方針と AI の使い方 →
目次
  1. v3 が変えたのは、英語の拒否を「半分」にしたこと
  2. Gemma 4 26B-A4B はどんなモデルか
  3. 配布は 3 系統。v3 はどれか
  4. 12GB・16GB・24GB で動く GGUF はどれか
  5. Ollama と llama.cpp で動かす
  6. 「拒否率 0%」をどう読むか
  7. この記事で確認していないこと
  8. よくある質問

16GB の GPU で動く MoE を探しているとします。Hugging Face で「Gemma 4 26B-A4B abliterated」を開くと、2026年11月10日に v3 が公開されていました。モデルカードには「スペイン語の拒否 0%」とあります。ところが、英語でいつもの調べものを投げると、まだ「I can't help with that」が返ってきます。

拒否率 0% という表示は、何語を、どの判定で、何問測った数字なのでしょうか。

結論から書くと、v3 はスペイン語の拒否を 27.2% から 0% にしましたが、英語は 68.7% から 32.1% に減らしただけで、消してはいません。ローカルで使うなら、16GB は Q3_K_M 13.3GB、24GB は Q4_K_M 16.8GB が候補です。v3 は研究用ライセンスで、本番配備は禁止されています。商用利用は配布元の条件を確認してください。

この記事では、v3 の数字の読み方、配布 3 系統の違い、12〜48GB の GGUF の選び方を整理します。

v3 が変えたのは、英語の拒否を「半分」にしたこと#

v3 はスペイン語の拒否を 0% にし、英語の拒否を 68.7% から 32.1% へ半分にしました。ただし、英語にはまだ 3 分の 1 が残ります。

v3 のモデルカードは、1058 問の hold-out プロンプトを greedy で 64 トークン生成し、2 種類の判定で拒否を数えています。数字をそのまま並べると、次のようになります。

判定言語ベースv3
collection judgeEN:OFF7.6%14.5%
collection judgeES:OFF27.2%0.0%
strict string-markerEN:OFF68.7%32.1%
strict string-markerES:OFF31.0%0.0%

注目すべきは、判定によって英語の数字が逆に見えることです。collection judge ではベースの 7.6% が v3 で 14.5% に増えています。これは v3 が悪化したのではなく、判定がベースの主要な拒否パターン(I cannot fulfill this request / I am prohibited)を拾いにくいためだとカードに書かれています。同じモデルを同じ判定で比べないと、0% の比較はできません。

strict 判定では、英語は 68.7% から 32.1% へ下がりました。289 問の OFF プロンプトのうち、51 問の拒否が外れています(スペイン語 43、英語 8)。スペイン語は 0% になりましたが、英語は 3 分の 1 が残ります。コードインタープリタのサンドボックス脱出に関する英語の一族は、ベースでも v3 でも拒否されたままです。

つまり v3 は「英語も全部通る」モデルではありません。スペイン語の研究用途では明確に変わっていますが、英語の調べものでは、まだ拒否に当たります。

用語解説

abliteration とは、モデルの中の「拒否する方向」の成分を、再学習せずに取り除く加工です。モデルの知識を入れ替えるのではなく、拒否の振る舞いだけを弱めます。

Gemma 4 26B-A4B はどんなモデルか#

Gemma 4 26B-A4B は、Google が公開した Gemma 4 ファミリーの MoE モデルです。総パラメータは約 25.2B、1 トークンの計算に使うのは約 3.8B です。

項目値
総パラメータ約 25.2B
活性パラメータ約 3.8B
レイヤー数30
エキスパート数128(8 routed + 1 shared)
コンテキスト長262,144 トークン
入力テキスト・画像
ライセンス(ベース)Apache 2.0

Mixture of Experts(MoE)は、入力を全部のパラメータで計算せず、選ばれた専門家だけを通す構造です。メモリは 26B 分必要ですが、計算は 4B 級で済みます。16〜24GB の GPU で 26B 級を動かせるのは、この差のおかげです。

コンテキストは 262,144 トークンで、画像入力と thinking モードに対応します。ベースの Hugging Face では 2026-11-13 時点で 5,251,952 ダウンロード、1,763 likes です。

参考: Gemma 4 26B-A4B-it(Hugging Face)

12B・31B との違いは Gemma 4 abliterated はどれを選ぶ?12B・26B MoE・31B の違いと拒否率 で整理しています。

配布は 3 系統。v3 はどれか#

26B-A4B の abliterated 版は、大きく 3 系統あります。v3 はそのうち最も新しいものですが、Ollama の公式タグはまだありません。

配布公開形式・サイズ特徴向く人
huihui-ai2026-04-11Ollama 18GB / GGUF 各種thinking と non-thinking の両方を加工。最初の 5 層は未加工最短で試したい
groxaxo UD2026-04-11GGUF 22 種、10.0〜27.9GBUnsloth 系の UD 量子化。mmproj 1.2GB量子化を選びたい
jsantillana v3 / mradermacher2026-11-10 / 11-12GGUF 13 種、10.6〜26.9GB研究用。英語は 32.1% 残る拒否の研究、比較

huihui-ai 版は、モデルカードに「thinking と non-thinking の両方を abliterate した」「最初の 5 層は加工していない」「専門家(experts)は加工していない」とあります。手軽さでは最も扱いやすく、Ollama の huihui_ai/gemma-4-abliterated:26b は 18GB です。

groxaxo 版は、huihui-ai 版を UD 量子化したものです。IQ2_M 10.0GB から Q8_K_XL 27.9GB まで 22 種類あり、mmproj も同じリポジトリにあります。

v3 は jsantillana が 11/10 に公開し、mradermacher が 11/12 に GGUF 化しました。Q2_K 10.6GB から Q8_0 26.9GB まで 13 種類です。v3 のライセンスは apache-2.0-restricted-research で、モデルカードにも「defensive security research / red-team tooling research ONLY」「Do not deploy for production」と書かれています。

警告

v3 は研究用ライセンスです。モデルカードは「防御的なセキュリティ研究・レッドチーム用」と明記し、本番配備を禁じています。業務で使うなら、Apache 2.0 の系譜である huihui-ai 版か groxaxo GGUF を選んでください。ただし、配布元が研究・実験用途をすすめている点は同じです。出力の利用に関する法的な判断は別に確認が必要です。

12GB・16GB・24GB で動く GGUF はどれか#

重みのファイルサイズだけを見ると、12GB なら Q2_K 10.6GB、16GB なら Q3_K_M 13.3GB、24GB なら Q4_K_M 16.8GB が収まります。ただし、mmproj と KV キャッシュが別に必要です。

GPU メモリv3 の候補サイズコンテキストの目安向く用途
12GBQ2_K10.6GB4K〜8Kテキストのみ、短い会話
16GBQ3_K_M / Q3_K_L13.3 / 13.8GB8K〜16Kテキスト中心
24GBQ4_K_M16.8GB16K〜32K画像入力も含めるなら Q4_K_S
32GBQ5_K_M19.1GB32K長めの調査
48GBQ8_026.9GB32K+品質優先

画像を読ませるなら mmproj が 0.8〜1.2GB 増えます。24GB で Q4_K_M 16.8GB と mmproj 1.2GB を選ぶと、残りは 6GB 弱です。KV キャッシュを入れると 16K でも余裕は多くありません。32K を常用するなら Q3_K_M に落とすか、GPU メモリを増やしてください。

12GB の Q2_K は、重みだけで 10.6GB です。mmproj を外し、コンテキストを 4K 程度に切る前提なら試せます。品質も Q4 より落ちるので、最初の比較用と考えてください。

Gemma 4 26B-A4B abliterated v3 の GGUF サイズ
Q2_K10.6GB
Q3_K_S12.2GB
Q3_K_M13.3GB
Q4_K_S15.5GB
Q4_K_M16.8GB
Q5_K_M19.1GB
Q6_K22.6GB
Q8_026.9GB

Ollama と llama.cpp で動かす#

最短は Ollama です。ただし、Ollama のタグは huihui-ai 版であって、v3 ではありません。

ollama run huihui_ai/gemma-4-abliterated:26b

18GB の Q4 相当で、thinking と non-thinking の両方が加工されています。Ollama のモデルページでは Text と Image input に対応すると表示されています。

v3 を試すなら、mradermacher の GGUF を llama.cpp で読みます。Q4_K_M と mmproj を同じリビジョンで揃えてください。

llama-cli -m "gemma-4-26B-A4B-it-abliterated-v3.Q4_K_M.gguf" --mmproj "gemma-4-26B-A4B-it-abliterated-v3.mmproj-f16.gguf" --jinja -c 16384 -ngl 99

-c はコンテキスト長、-ngl は GPU に載せる層数です。24GB で Q4_K_M を使うなら -c 16384 から始め、足りなければ下げてください。テキストだけなら --mmproj を外すと 1GB 前後空きます。

LM Studio なら、検索欄に gemma-4-26B-A4B-it-abliterated-v3 を入れて Q4_K_M を選びます。v3 は Ollama の公式タグがないため、GGUF を直接読む形になります。

参考: Ollama で検閲なし LLM を動かすには?モデルの選び方と日本語の注意点

参考: GGUF の量子化とは?Q4_K_M・Q8_0 の違いと選び方

「拒否率 0%」をどう読むか#

配布元の 0% を比べるときは、次の 3 点を確認してください。

  1. 何語で測ったか。v3 の 0% はスペイン語です。英語は 32.1% 残ります。
  2. どの判定か。v3 は collection judge と strict の 2 つを出しています。collection judge の英語は 14.5% で、ベースの 7.6% より高い数字になります。判定が違えば順序も変わります。
  3. 何問か。v3 は 1058 問です。huihui-ai は拒否率を公表しておらず、groxaxo は huihui-ai の量子化なので同じ性質を引き継ぎます。

「0/465」と「0/16」を並べる記事がありますが、問題数と内容が違えば比較できません。自分の用途のプロンプトを 5 本用意して、同じ条件で比べるのが確実です。

ライセンスも配布ごとに違います。ベースは Apache 2.0、huihui-ai と groxaxo は Apache 2.0 の系譜、v3 は研究用です。商用利用を考えるなら、モデルのライセンスと、出力の利用に関する規制を別に確認してください。

参考: 検閲のない AI は違法?uncensored AI を使う前に知っておきたい法的な論点

この記事で確認していないこと#

実機での起動と速度は確認していません。16GB で Q3_K_M がどのコンテキストまで動くか、24GB で Q4_K_M が何トークン/秒出るかは、GPU とランタイムで変わります。

日本語の拒否率も測っていません。v3 のカードは英語とスペイン語だけを評価しています。日本語の調べもので使うなら、自分のプロンプトで試してください。

v3 のモデルカードには「Surgery window: L28–L63」とありますが、公開されている config は 30 層です。層番号の対応は確認できていません。カードの表記をそのまま信用せず、配布元の評価ファイルと照らす必要があります。

huihui-ai のカードには「256 experts per layer」とありますが、Google の config は 128 experts です。この記事では config の 128 を採用しました。カードの表記には揺れがあります。

よくある質問#

12GB の GPU でも動きますか?#

v3 の Q2_K が 10.6GB で、最小の候補です。ただし mmproj を外し、コンテキストを 4K 程度に切る前提で、余裕はほとんどありません。画像入力や長い会話には向きません。

v3 は日本語の拒否も減らしますか?#

配布元は英語とスペイン語だけを評価しています。日本語の拒否率は公表されていません。日本語で使うなら、短い要約・言い換え・調査のプロンプトを 5 本ほど用意して、v3 と huihui-ai 版を同じ条件で比べてください。

Ollama で v3 は使えますか?#

2026-11-13 時点で、v3 の公式タグはありません。Ollama の huihui_ai/gemma-4-abliterated:26b は huihui-ai 版です。v3 は mradermacher の GGUF を llama.cpp か LM Studio で読みます。

商用利用できますか?#

v3 は研究用ライセンス(apache-2.0-restricted-research)で、モデルカードは本番配備を禁じています。商用利用は想定されていないため、業務で使うならベースの Apache 2.0 を継承する huihui-ai 版か groxaxo GGUF を選び、配布元の条件と出力の利用に関する規制を別に確認してください。

Q4_K_M と Q4_K_S はどちらを選べばよいですか?#

24GB なら Q4_K_M 16.8GB、Q4_K_S 15.5GB です。S は少し小さく速い代わりに品質が落ちます。迷ったら M から始め、メモリが足りなければ S にしてください。16GB なら Q3_K_M 13.3GB が先です。

まずは 5 つのプロンプトを用意して、v3 と huihui-ai 版を同じ条件で比べてください。GPU がない場合は、Deepent Research の無料トライアルで、abliterated モデルの挙動を先に確かめられます。

この仕組みを、試す

Deepent Research は、回答を極限まで拒否しない LLM チャットサービスです。この記事で扱ったモデルと技術を、ダウンロードなしでそのまま試せます。

本記事は教育・研究目的の情報提供です。違法行為や犯罪の助長を意図するものではありません。

本記事の編集と検証

編集部が一次情報の原文を確認し、事実関係を整理して公開しています。確認した範囲と、確認していない範囲は記事中の「編集部の確認メモ」に書いています。

Deepent Research 編集部·最終更新 ·編集方針と AI の使い方 →·運営者情報 →

関連ノート

·16 分

Gemma 4 abliterated はどれを選ぶ?12B・26B MoE・31B の違いと拒否率

Gemma 4 abliterated は配布元ごとに加工範囲や拒否率が違います。12B・26B-A4B MoE・31B dense の違いを軸に、主な配布元の公表値や KL ダイバージェンスを比べ、PC 環境別の選び方と Ollama での動かし方を整理します。

Gemmaabliteratedモデル解説
·9 分

GGUF の量子化とは?Q4_K_M・Q8_0 の違いと選び方【ローカル LLM はどれを選ぶ?】

GGUF の量子化とは何か、Q4_K_M など記号の読み方、Q4・Q6・Q8 の精度と速度の違い、自分の PC に載るサイズの見積もり方を、Llama 3.1 8B の公開研究値をもとに解説します。ローカル LLM の選び方が分かります。

量子化GGUFローカルLLM
·8 分

Ollama で検閲なし LLM を使うには?モデルの選び方と日本語の注意点

Ollama で検閲なし(uncensored)LLM を使う手順を、モデルの探し方から量子化の選び方まで解説します。日本語で使うときの確認手順と、起動しない・遅いといったつまずきやすい点も整理します。GPU メモリに合わせた選び方が分かります。

uncensoredOllamaローカル LLM
この記事を共有X で共有