·更新 (段落を分割し、確認メモを追加)·18 分·Deepent Research 編集部·English

uncensored・abliterated モデルは危険?GGUF・pickle に埋め込まれる指示と確認項目

uncensored・abliterated モデルには悪意ある設計の配布物があります。pickle・trust_remote_code・GGUF テンプレート・バックドア・ツール定義の5つの手口、確認項目、Deepent で読み込みリスクを負わない理由を解説します。

対象: uncensored・abliterated モデルをローカルで読み込む前に、安全性を確認したい人

この記事の要点

  • uncensored・abliterated モデルの配布物には、悪意ある設計のものが実在します。
  • 手口は pickle・trust_remote_code・チャットテンプレート・重みのバックドア・ツール定義の5経路です。
  • Deepent Research はモデルの選定と実行をサービス側で行うため、利用者が重みやテンプレートを確認する必要はありません。

編集部の確認メモ

2026-11-13 時点で、ReversingLabs、Pillar Security、Chaos Labs、Anthropic の一次資料と Hugging Face のセキュリティ文書を確認しました。攻撃の再現テストはしていません。

編集方針と AI の使い方 →
安全性サプライチェーンローカルLLM
目次
  1. 実際に報告された3つの事例
  2. 5つの侵入経路と動くタイミング
  3. pickle と trust_remote_code が危険な理由
  4. GGUF のチャットテンプレートに潜む指示
  5. チャットテンプレートはどう確認する?
  6. 重みに仕込まれたバックドアは安全訓練で消えるのか?
  7. ツール呼び出しで被害はどこまで広がるのか?
  8. 手元で動かす前の10の確認項目
  9. Deepent Research なら、何が違うのか?
  10. よくある質問

Hugging Face や Ollama で uncensored・abliterated モデルを探していると、パラメータ数や拒否の少なさばかりに目が向きます。しかし、手元の PC にファイルをダウンロードして開くとき、その配布物にどんなコードや指示が同梱されているかは一覧画面からは分かりません。

実際に 2025 年 2 月には Hugging Face 上の pickle 形式モデルに悪性コードが仕込まれていた事例が報告され、同年 7 月には GGUF のチャットテンプレートに出力を操作する指示を埋め込む手法も見つかっています。自分でモデルを落として動かすなら、最初に safetensors 形式を選び、量子化版ごとのチャットテンプレートの中身まで確認する必要があります。

参考: ローカル LLM とは? 自分の PC で動かす方法と選び方【LM Studio での始め方】

実際に報告された3つの事例#

悪意ある設計は、理論上の話ではありません。

2025 年 2 月、Hugging Face で配布されていた pickle 形式のモデルが、スキャンを回避して悪性コードを実行する状態だったと ReversingLabs が報告しました(ReversingLabs)。

2025 年 7 月には、GGUF のチャットテンプレートに指示を埋め込み、重みを変えずに出力を操作する手法を Pillar Security が報告しています(Pillar Security)。

2026 年 8 月には、Chaos Labs が検証で、特定の語に反応して資格情報を外部へ送るツール呼び出しを返すモデルを一日で作れることを示しました(Chaos Labs)。

3件目は研究者による検証で、配布中のモデルで起きた事件ではありません。それでも、配布物を読み込む側が同じ経路に触れることを示しています。

5つの侵入経路と動くタイミング#

悪意ある設計は、モデルの重みだけに入るわけではありません。配布物は、重み、読み込みコード、チャットテンプレート、ツール定義という複数の部品でできており、どこに仕込まれたかによって動くタイミングも確認する場所も変わります。

経路何が入りうるかいつ動くか確認の入口
pickle 形式のファイル読み込み時に実行されるコードファイルを読み込んだときファイルの形式(safetensors か GGUF か)
trust_remote_code(リポジトリ内のコード)モデルの読み込みに使われるコード読み込みを実行したときコードの中身と取得時点(revision)
チャットテンプレート会話の整形に使われる指示の文会話のたびにテンプレートの本文(量子化版ごと)
重み(バックドア)特定の引き金に反応して、通常と違う動作をする振る舞い引き金が入力されたとき配布元の確認。重みを見ただけでは振る舞いを判定できない
ツール定義・スキルファイルエージェントに見せる道具の説明と手順エージェントがツールを呼ぶとき説明文と、エージェントに与えている権限

重みのバックドアだけは、ファイルを開いても見つかりません。
配布元の確認が中心になりますが、残り4つの経路は表の入口から調べられます。

補足

abliteration は拒否方向を除く重みの加工で、コードを追加するものではありません(Arditi ら 2024、arXiv:2406.11717)。用語は abliteration とは で扱っています。

pickle と trust_remote_code が危険な理由#

最初に確認するのは、モデルを読み込んだ瞬間にコードが動くかどうかです。pickle は Python のオブジェクトを復元する形式で、復元の手順に関数呼び出しを含められます。モデルの重みを読むつもりが、読み込んだ PC の権限で任意のコードが実行されます。

Hugging Face の公式ドキュメントも、pickle の読み込みは任意コード実行につながると説明しています(Pickle Scanning)。safetensors はテンソルのデータだけを保存する形式で、読み込み時にコードを実行しません。対策の第一歩は、pickle 形式を避けて safetensors を選ぶことです。

Hugging Face はアップロードされたファイルに ClamAV と pickle の import 検査をかけています。ただし、その検査は完全ではないと公式に説明されています(Malware Scanning)。2025 年 2 月の nullifAI は、7z 形式で圧縮した pickle によって Picklescan の検査をすり抜けました。スキャンに通ったことは、安全の証明にはなりません。

trust_remote_code=True は、モデルのリポジトリに含まれる modeling_*.py などを読み込んで実行します(Loading models)。リポジトリが後から更新されると、読み込むコードも変わります。公式ドキュメントは、revision を commit hash で固定することを勧めています。自分でコードを読んで理解できない限り、既定の False のままにします。

GGUF のチャットテンプレートに潜む指示#

GGUF 形式のモデルには、チャットテンプレートが一緒に入っていることがあります。チャットテンプレートは、利用者の発言、AI の返答、システムからの指示を、モデルが区別できる書式に組み立てる部品です。利用者からは見えませんが、会話のたびに使われます。ここに指示を書き込まれると、重みを変えなくても、その指示が毎回モデルへ渡ります。

2025 年 7 月、Pillar Security は GGUF のチャットテンプレートに指示を埋め込む攻撃を報告しました。確認の盲点として次の2点が指摘されています。

  • Hugging Face の画面は、リポジトリ内の最初の GGUF のテンプレートしか表示しません。Q4_K_M など一部の量子化版だけ別のテンプレートに差し替えられていても、画面からは気づきにくくなります。
  • 既存のスキャナは、重みやコードを見ても、テンプレート内の自然言語の指示までは検査しません。

参考: GGUF の量子化とは?Q4_K_M・Q8_0 の違いと選び方【ローカル LLM はどれを選ぶ?】

テンプレートは Jinja2 というテンプレートエンジンで処理されます。JFrog は、この処理を悪用してコードを実行させる型の脆弱性(SSTI)を報告しています。公開されている事例は CVE-2024-34359 で、llama-cpp-python 0.2.72 未満が対象です(GGUF-SSTI)。JFrog は、0.2.72 以上や Ollama など他の実行系では任意コード実行は起きないと整理しているため、実行環境の llama-cpp-python は 0.2.72 以上に上げます。

悪意ある文をテンプレートの形式にすると、通常の文章より攻撃が成功しやすいという研究もあります。ICLR 2026 で発表された ChatInject は、悪意ある文をチャットテンプレートの形式に整えるだけで、間接プロンプト注入の成功率が上がると報告しました(arXiv:2509.22830)。

間接プロンプト注入の成功率(研究環境の測定値)
AgentDojo・平文5.18%
AgentDojo・テンプレート形式32.05%
InjecAgent・平文15.13%
InjecAgent・テンプレート形式45.9%

テンプレート形式にすると、どちらのベンチマークでも成功率が大きく上がっています。マルチターンの変種では、InjecAgent で平均 52.33% と報告されています。いずれも研究環境での数字で、実際のサービスや利用中のエージェントで同じ割合になるとは限りません。

チャットテンプレートはどう確認する?#

Ollama を使う場合は、次のコマンドでモデルのテンプレートと SYSTEM 指定を表示できます(Modelfile)。

ollama show --modelfile <モデル名>

出力の TEMPLATE と SYSTEM に、想定していない指示や外部への誘導がないかを読みます。GGUF のファイルでは、メタデータの tokenizer.chat_template にテンプレートが入っています。Hugging Face の tokenizer_config.json や chat_template.jinja にも同じ内容が入ることがあります。Hugging Face の画面に出るのは最初の GGUF のテンプレートだけなので、量子化版ごとにメタデータを開き、本文が同じかを比べます。

重みに仕込まれたバックドアは安全訓練で消えるのか?#

重みそのものに、特定の条件で切り替わる振る舞いを仕込むこともできます。2026 年 8 月、Chaos Labs は Qwen3-0.6B を LoRA で微調整しました。「summarize today's meetings」という語に反応して、資格情報と会話ログを読み、外部へ送るツール呼び出しを返すモデルです。通常の質問には普通に答え、引き金の語が来たときだけ、回答の代わりにツール呼び出しを返します。この事例は研究者による検証で、配布中のモデルで起きた事件ではありません。

Anthropic の Sleeper Agents(2024)は、引き金で振る舞いが変わるバックドアが、教師あり微調整、強化学習、敵対的学習を経ても残りうることを示しました(arXiv:2401.05566)。大きなモデルほど残りやすく、敵対的学習が引き金を隠す方向に働く場合もあります。

これらは研究環境での結果ですが、重みはコードではないため、ウイルススキャンのようには検査できません。既知の引き金を試す、ベースモデルと出力を比べる、といった検査はできます。それでも、未知の引き金をすべて見つける方法はありません。この種のリスクは、最終的に配布元を信頼するかどうかの判断になります。

ツール呼び出しで被害はどこまで広がるのか?#

モデルが危険なツール呼び出しを返しても、実行する側が止めれば被害になりません。被害が大きくなるのは、エージェントがファイルを読み、コマンドを実行し、外部と通信できるときです。自動承認が入っていると、モデルの出力がそのまま操作になります。

ツールの説明文に、利用者には見えない指示を隠す攻撃は、2025 年 4 月に Invariant Labs が MCP について報告しました(MCP Tool Poisoning)。スキルファイル(エージェントが読む手順書)を経由したプロンプト注入も、2025 年 10 月の研究で示されています(arXiv:2510.26328)。OWASP も、モデルやツールの配布経路をサプライチェーンの脆弱性として LLM03:2025 に挙げています(OWASP)。

エージェントにつなぐ前に絞りたい権限は、次の3つです。

  • 自動承認: ツールの実行を、人が確認せずに通す設定
  • 秘密情報: API キーや .env ファイルなど、エージェントが読める場所に置かれたもの
  • ネットワーク: 外部へ通信できる権限

どれか1つでも絞れば、起きうる被害の範囲は小さくなります。特に、~/.ssh やクラウドの資格情報、ブラウザの Cookie が同じ環境にあると危険です。ネットワークも使える場合、読み取られた情報が外部へ送られるおそれがあります。

手元で動かす前の10の確認項目#

動かす前に確かめる項目は次のとおりです。モデルの選び方は Uncensoredモデル おすすめ10選 で扱っています。

  • ✔️ ファイルの形式が safetensors か GGUF かを確かめる。pickle 形式のファイルは避ける
  • ✔️ trust_remote_code を要求するモデルは、コードの中身を読んでから使う
  • ✔️ 読み込みに使う revision(特定の時点のコミット)を固定する
  • ✔️ 配布元を確かめる。本家か、微調整・量子化の再アップロードかを、モデルカードで見る
  • ✔️ チャットテンプレートを量子化版ごとに表示し、想定していない指示や外部への誘導がないかを読む
  • ✔️ Ollama は ollama show --modelfile <モデル名> で TEMPLATE と SYSTEM を確認する
  • ✔️ GGUF はメタデータの tokenizer.chat_template を読む
  • ✔️ ネットワークを切ったコンテナか VM で動かし、ホームディレクトリと資格情報を渡さない
  • ✔️ エージェントにつなぐ前に、自動承認を切り、秘密情報を置いた場所から離す
  • ✔️ ツール呼び出しと外部送信のログを残す

ここまで確認しても、配布物が安全だと証明することはできません。重みに入った振る舞いは、ファイルを見ただけでは判定できず、安全訓練の後も残りうるためです。スキャンは入口の確認として使い、配布元と実行環境の管理を組み合わせます。重要な作業では、モデルの出力を鵜呑みにせず人が確認します。

Deepent Research なら、何が違うのか?#

Deepent Research は、モデルの選定と実行をサービス側で行います。利用者がモデルの重みをダウンロードして読み込むことはありません。そのため、読み込み時のリスクは利用者の手元には現れません。

確認項目自分でモデルを落とす場合Deepent Research
重みの形式safetensors か確認する利用者の手元に重みがない
pickle / trust_remote_code自分で回避する利用者が読み込まない
チャットテンプレート量子化版ごとに表示して確認するサービス側が管理する
ツール権限エージェントに合わせて設定するチャットで使う場合、利用者の設定は不要

利用者はブラウザから質問するだけで、ファイル形式を調べたり tokenizer.chat_template を開いたりする作業は要りません。ただし、絶対に安全とは言えません。

サービスの安全性は、Deepent Research がどのモデルを選び、どんなテンプレートで動かしているかに依存します。利用者からは見えない部分なので、Deepent Research の管理を信頼するかどうかが判断材料になります。扱う情報の重さと、確認に使える時間で使い分けます。

よくある質問#

悪意ある設計は本当にあるのですか?#

実在します。
冒頭の3件のうち、2025 年 2 月は配布されていた悪性モデルの事例です。
2025 年 7 月は、テンプレートに指示を埋め込む手法の報告です。
2026 年 8 月は研究者による検証で、配布中のモデルで起きた事件ではありません。

どんな手口がありますか?#

大きく5つあります。
pickle と trust_remote_code は読み込み時に動き、チャットテンプレートは会話のたびに動きます。
このほか、引き金で動く重みのバックドアと、エージェントが読むツール定義があります。

自分でモデルを使うとき、何を確認すればよいですか?#

まず、ファイル形式が safetensors か GGUF かを確かめ、pickle 形式は避けてください。
次に、チャットテンプレートを量子化版ごとに表示して読み、revision を固定します。
エージェントにつなぐ場合は、自動承認を切ってから権限を絞ってください。

Deepent なら何が違うのですか?#

Deepent Research は、モデルの選定と実行をサービス側で行うため、利用者が重みを落とす必要はありません。
pickle やテンプレートを確認する必要もありません。
ただし、絶対に安全とは言えません。
サービスの安全性は、Deepent Research の管理に依存します。

この仕組みを、試す

Deepent Research は、回答を極限まで拒否しない LLM チャットサービスです。この記事で扱ったモデルと技術を、ダウンロードなしでそのまま試せます。

本記事は教育・研究目的の情報提供です。違法行為や犯罪の助長を意図するものではありません。

本記事の編集と検証

編集部が一次情報の原文を確認し、事実関係を整理して公開しています。確認した範囲と、確認していない範囲は記事中の「編集部の確認メモ」に書いています。

Deepent Research 編集部·最終更新 ·編集方針と AI の使い方 →·運営者情報 →

関連ノート

·11 分

ChatGPTが答えてくれない・はぐらかすのはなぜ?「一般論」を具体策に変える5つの聞き方

ChatGPTの答えが「場合によります」「専門家に相談を」ばかりで物足りない。拒否・責任回避・一般論・情報不足の4類型を見分け、決めたいこと・数字の制約・評価基準を渡して具体策を引き出す5つの聞き方と仕事用チェックリストを整理します。

AI の使い方ChatGPT質問の仕方
·18 分

Gemma 4 26B-A4B abliterated v3 は拒否を消せたか?英語32%・GGUFサイズの選び方

2026年11月10日公開の Gemma 4 26B-A4B abliterated v3 は、スペイン語の拒否を0%にした一方、英語は32%残ると配布元が公表しています。10.6〜26.9GBのGGUFから、12GB・16GB・24GBで動く量子化と注意点を整理します。

Gemmaabliteratedモデル解説
·17 分

AIに個人情報を入力してしまった…大丈夫?学習させない設定と確認5点

ChatGPTやGeminiに個人情報・機密情報を入力してしまったときの対処を整理します。削除しても残るもの、学習させない設定の場所、入力前に確認する5点、固有名詞を伏せる具体例を、公式ヘルプと個人情報保護委員会の資料をもとに説明します。

AI の使い方個人情報プライバシー
この記事を共有X で共有