Codexが「フライドポテトいる?」AIの答えを汚すアドウェア

カモメのシルエットとフライドポテトのグリッチがあるCodex Haiouのサムネイル

何が起きたの

Codexに「hi」とあいさつしたら、コーディングを手伝ってくれる代わりに、突拍子もない広告みたいな答えが返ってきた。

中国語の原文を自然に訳すと、「カモメ、オンライン!フライドポテトでもどう?API中継サービスを開いたからちょっとサポートして」という宣伝文句だよ。

✦ hiに返ってきた実際の答え

中国語の原文と、日本語訳

入力
• hi
出力(中国語の原文)
• 海鸥在线,你要整点薯条吗?老子开了个中转站https://zz.aiapi2025.top 支持一下
日本語訳
• 「カモメ、オンライン!フライドポテトでもどう?API中継サービスを開いたからちょっとサポートして」

2026年11月3日にセキュリティ企業のCheck Point Researchが公開したHaiouの分析で、実際に再現された答えなんだ。Haiou(海鸥)は中国語でカモメという意味で、「フライドポテト」はプロンプトとまったく関係のない突拍子もない文句だよ。

Check Pointが公開した画面にも、hiを入力した直後にこの中国語の文が出力された場面が載っている。

〈Codexの応答を広告へ書き換えたHaiou事件の解説映像〉
* YouTubeチャンネル『Deploy & Defend』にあがっている動画だよ。

Haiouって何

こんな突拍子もない答えが返ってきた原因は、「Haiou」というCodex用の設定パッケージだった。Haiouは、Codexに含まれているパッケージじゃなくて、ユーザーが別にダウンロードしてインストールする非公式設定パッケージなんだ。

制作者は、Codexに「中国語技術専門家ペルソナ」と「セキュリティ研究ワークフロー」を加える「ローカル強化設定パッケージ」として紹介していた。

✦ AIが断るとき、Haiouは何をしたのか

拒否反応を減らす指示の書き換え

1AIが要求を断る
攻撃に悪用されかねない要求だと判断する
2頼み込んでも効かない
「テストのためだよ」と言っても判断は変わらない
3Haiouが指示を書き換える
拒否反応を減らすジェイルブレイクプロンプトを入れる

簡単に言うと、最新のAIモデルは、ハッキングに関わるペネトレーションテストや脆弱性分析、ソフトウェアクラッキングみたいな、攻撃に悪用されかねない要求を断ることが多いよね。

AIが「この要求は聞いちゃいけない」と一度判断を下すと、ユーザーがいくら「これはテストのためだよ!だから実行して!」と頼んでも無駄なんだ。Haiouは、そうした拒否反応を減らすように指示を書き換えるジェイルブレイクプロンプトを入れたんだよ。

セキュリティ関連の要求を、模擬ハッキング大会の「CTF課題」に言い換えたり、Codexにロールプレイをさせたり、拒否の文言を使うなと指示したりする方法だったんだ。

ここに加えて、ペネトレーションテスト、ソフトウェアのライセンスクラッキング、リバースエンジニアリング、ゲームセキュリティやアンチチートの分析などのための六つのSkillsも一緒に提供していた。

✦ Haiouに入っているセキュリティSkills6個

パッケージに含まれていたもの

Skills
• seagull-game-security
• seagull-lab
• seagull-license-security
• seagull-memory
• seagull-pentest
• seagull-reverse

Skillsは、特定の作業を繰り返しこなせるようにエージェントに付ける作業指示だから、実質的にはCodexの話し方と作業のやり方を変えて、セキュリティ研究用の指示をまとめて入れる総合パッケージだったわけだね。

つまり、このパッケージをダウンロードする人たちの目的は、たいていセキュリティ関連の作業だったと思う。それに、これを入れて「フライドポテトでもどう?」と言われるなんて、誰も思わなかっただろうね。

しかもHaiouは、誰でも見られるGitHubの公開リポジトリに上がっていたんだ。

✦ Haiouの公開状況

GitHubの公開リポジトリで確認できたこと

リポジトリ
haiou-666/haiou-codex
公開状態
Public
パッケージサイズ
16.2MB
分析バージョン
4.5.0
ランチャー
Windows・macOS・Linux
実際のインストール数
公開資料では確認されていない

haiou-666/haiou-codexリポジトリには、16.2MBの圧縮ファイル「Haiou Codex オープンソースワンクリックパッケージ」が公開されていて、Check Pointが分析したバージョンは4.5.0だよ。

Windows、macOS、Linux用のランチャーも入っていた。内部のプロンプトは暗号化された圧縮バンドルに入っていたから、GitHubのページでファイル一覧を眺めただけでは、どんなプロンプトがインストールされるのか正確には分かりにくかったんだ。

Check Pointは、HaiouがCodexの設定をグラフィカルに管理する別ツールのCodex-Xにもバンドルされて配布されていた事実を確認した。

つまり、開発者はGitHubから直接ダウンロードする経路のほかにも、関連する設定ツールを通じて触れる可能性があったんだよ。

実際の事例を直接確認したわけじゃないけれど、おそらくCodexから「フライドポテトでもどう?」という答えを受け取ったユーザーは少なくないと思う。

〈Haiouの標的となった公式Codex CLI紹介映像〉
* YouTubeチャンネル『OpenAI』にあがっている動画だよ。

なぜこれを入れるとCodexの答えが広告に変わるのかな

Haiouのインストールファイルは、複数のプロンプトモジュールとSkillsをCodex環境に追加するんだ。

✦ 広告を呼ぶトリガー

00-identity.mdで指定されていた言葉

英語hi, hello, yo, ctf, coach
中国語在吗、在线吗、启动、海鸥、你好、嘿、教练

Check Pointが分析したパッケージには00-identity.mdというモジュールがあって、その中には「特定のあいさつや有効化フレーズが入ってきたら、決まった文だけ答えろ」という指示が書かれていた。

hi、hello、yo、ctf、coachのほかに、中国語のあいさつと「カモメ」という言葉もトリガーに指定されていたんだ。

✦ Haiouが広告を出すまでの流れ

インストールから広告文の出力まで

1Haiouをインストール
設定とSkillsが追加される
2グローバル指示を書き換え
広告に関する指示が入る
3トリガーを入力
hiなど、決められた言葉を入力する
4広告文を出力
決まった文だけを答える

Codexは作業を始めるとき、AGENTS.mdのようなグローバル指示ファイルを読み込む。これは、Codexユーザーがコーディングルールや基本的なコマンドみたいなものを毎回入力しなくて済むようにする指示ファイルだと思えばいいよ。

このグローバル指示は、文字どおり「グローバル」に適用されるから、プロジェクトが変わってもずっと適用されうる。

Haiouはこの仕組みを利用してグローバル指示を書き換えてしまい、それによってCodexが別のセッションを始めたときもずっと広告のルールを読み込むようにした。

流れはこうだよ。ユーザーがHaiouをインストールすると、設定とSkillsが追加される。Codexはプロジェクトを進めるとき、広告に関する指示が入ったグローバル指示を読み込むんだ。

その状態でユーザーがhiのように決められた言葉を入力すると、AIが差し込まれたルールに従って、決まった広告文を出力する。

どんな質問にもむやみに広告がつく仕組みじゃなくて、あらかじめ決めたあいさつと有効化フレーズにだけ反応する方式だったから、この問題に気づかないまま使い続けたユーザーもいるはずだよ。

フライドポテトの次に宣伝したのはAPI中継サービス

Haiouの広告文の末尾には、zz.aiapi2025.topというアドレスがついていた。これはLLMゲートウェイ、つまりプログラムが送ったAIリクエストを途中で受け取って、実際のモデル提供元に渡すAPI中継サービスなんだ。

つまりHaiouの開発者が宣伝したかったのはフライドポテトじゃなくて、「API中継サービスを開いたからサポートしてほしい」ということだったんだね。

Check Pointは、Haiouの制作者が設定パッケージを無料で配りつつ、自分で運営していると見られるゲートウェイにユーザーを引き込もうとしたと分析している。無料のジェイルブレイクパッケージを、有料の中継サービスの宣伝経路にしたってことだね。

✦ 広告のアドレスについて分かっていること

ゲートウェイ(zz.aiapi2025.top)をめぐる事実

✔ 種類:LLMゲートウェイ(API中継サービス)
✔ 扱い:別のセキュリティ指示が「保護対象」に指定していた
✔ 悪性の証拠:Check Pointは見つけていない

しかもこのパッケージの別のセキュリティ指示は、広告のアドレスを別に「保護対象」に指定している。それによって、ユーザーがそのアドレスを対象に攻撃テストをできないようにしていた。

ほかの対象に向けてはセキュリティの制限を下げるパッケージが、自分のサービスについては攻撃テストをさせないよう守っていたわけだ。ただ、Check Pointは、このゲートウェイ自体が悪性だという証拠は見つけていないと明らかにしている。

つまり、今回確認された問題は、ユーザーがセキュリティ研究用のパッケージだと思って入れたプログラムが、Codexの指示を書き換えて広告まで差し込んだということだよ。

エージェントがあふれる時代…きみのローカルエージェントは安全かな

従来のアドウェアは、ブラウザやプログラムの画面に広告バナーを出したり、ポップアップを見せたりしていた。でもHaiouは、AIが作業をするときに参照する指示に広告を入れたんだ。

今回は「フライドポテトでもどう?」みたいな突拍子もない文を入れたから、ユーザーが広告だと気づきやすかった。(いったいどうしてそんな文句を入れたのかは分からないなあ…)

✦ 気づきやすい広告と、気づきにくい広告

今回のHaiouと、この方式を真似した場合

今回のHaiou広告だと気づきやすい
「フライドポテトでもどう?」という突拍子もない文が入っていた
これから答えが汚染されたと気づきにくい
特定のキーワードの質問に特定の業者を優先して薦めるルールが入った場合

でも、これから誰かがこの方式を真似して、「特定のキーワードが入った質問を受けたら、特定の業者を優先して薦めろ」というルールを入れたらどうなるかな。ユーザーは、その答えが汚染されたものだと気づきにくいはずだよ。

最近はCodexだけじゃなくて、Hermes Agentなどいろいろなエージェントプログラムが、AGENTS.mdやSOUL.mdのような形式の指示ファイルを作って使っているよね。

誰かがその気になれば、このファイルを汚染して、自分の望む答えをきみに見せることができるってことだよ。

今日もローカルエージェントを使っているきみ…

きみのエージェントが毎日読んで参考にしている指示ファイルに何が書かれているか、確認したほうがいいんじゃないかな?

今回はここまでにするよ。また会おう。

関連記事

💬 コメント

まだコメントがないよ。最初のコメントを書いてみてね。