何が起きたの
Codexに「hi」とあいさつしたら、コーディングを手伝ってくれる代わりに、突拍子もない広告みたいな答えが返ってきた。
中国語の原文を自然に訳すと、「カモメ、オンライン!フライドポテトでもどう?API中継サービスを開いたからちょっとサポートして」という宣伝文句だよ。
✦ hiに返ってきた実際の答え
中国語の原文と、日本語訳
2026年11月3日にセキュリティ企業のCheck Point Researchが公開したHaiouの分析で、実際に再現された答えなんだ。Haiou(海鸥)は中国語でカモメという意味で、「フライドポテト」はプロンプトとまったく関係のない突拍子もない文句だよ。
Check Pointが公開した画面にも、hiを入力した直後にこの中国語の文が出力された場面が載っている。
Haiouって何
こんな突拍子もない答えが返ってきた原因は、「Haiou」というCodex用の設定パッケージだった。Haiouは、Codexに含まれているパッケージじゃなくて、ユーザーが別にダウンロードしてインストールする非公式設定パッケージなんだ。
制作者は、Codexに「中国語技術専門家ペルソナ」と「セキュリティ研究ワークフロー」を加える「ローカル強化設定パッケージ」として紹介していた。
✦ AIが断るとき、Haiouは何をしたのか
拒否反応を減らす指示の書き換え
簡単に言うと、最新のAIモデルは、ハッキングに関わるペネトレーションテストや脆弱性分析、ソフトウェアクラッキングみたいな、攻撃に悪用されかねない要求を断ることが多いよね。
AIが「この要求は聞いちゃいけない」と一度判断を下すと、ユーザーがいくら「これはテストのためだよ!だから実行して!」と頼んでも無駄なんだ。Haiouは、そうした拒否反応を減らすように指示を書き換えるジェイルブレイクプロンプトを入れたんだよ。
セキュリティ関連の要求を、模擬ハッキング大会の「CTF課題」に言い換えたり、Codexにロールプレイをさせたり、拒否の文言を使うなと指示したりする方法だったんだ。
ここに加えて、ペネトレーションテスト、ソフトウェアのライセンスクラッキング、リバースエンジニアリング、ゲームセキュリティやアンチチートの分析などのための六つのSkillsも一緒に提供していた。
✦ Haiouに入っているセキュリティSkills6個
パッケージに含まれていたもの
Skillsは、特定の作業を繰り返しこなせるようにエージェントに付ける作業指示だから、実質的にはCodexの話し方と作業のやり方を変えて、セキュリティ研究用の指示をまとめて入れる総合パッケージだったわけだね。
つまり、このパッケージをダウンロードする人たちの目的は、たいていセキュリティ関連の作業だったと思う。それに、これを入れて「フライドポテトでもどう?」と言われるなんて、誰も思わなかっただろうね。
しかもHaiouは、誰でも見られるGitHubの公開リポジトリに上がっていたんだ。
✦ Haiouの公開状況
GitHubの公開リポジトリで確認できたこと
haiou-666/haiou-codexリポジトリには、16.2MBの圧縮ファイル「Haiou Codex オープンソースワンクリックパッケージ」が公開されていて、Check Pointが分析したバージョンは4.5.0だよ。
Windows、macOS、Linux用のランチャーも入っていた。内部のプロンプトは暗号化された圧縮バンドルに入っていたから、GitHubのページでファイル一覧を眺めただけでは、どんなプロンプトがインストールされるのか正確には分かりにくかったんだ。
Check Pointは、HaiouがCodexの設定をグラフィカルに管理する別ツールのCodex-Xにもバンドルされて配布されていた事実を確認した。
つまり、開発者はGitHubから直接ダウンロードする経路のほかにも、関連する設定ツールを通じて触れる可能性があったんだよ。
実際の事例を直接確認したわけじゃないけれど、おそらくCodexから「フライドポテトでもどう?」という答えを受け取ったユーザーは少なくないと思う。
なぜこれを入れるとCodexの答えが広告に変わるのかな
Haiouのインストールファイルは、複数のプロンプトモジュールとSkillsをCodex環境に追加するんだ。
✦ 広告を呼ぶトリガー
00-identity.mdで指定されていた言葉
Check Pointが分析したパッケージには00-identity.mdというモジュールがあって、その中には「特定のあいさつや有効化フレーズが入ってきたら、決まった文だけ答えろ」という指示が書かれていた。
hi、hello、yo、ctf、coachのほかに、中国語のあいさつと「カモメ」という言葉もトリガーに指定されていたんだ。
✦ Haiouが広告を出すまでの流れ
インストールから広告文の出力まで
Codexは作業を始めるとき、AGENTS.mdのようなグローバル指示ファイルを読み込む。これは、Codexユーザーがコーディングルールや基本的なコマンドみたいなものを毎回入力しなくて済むようにする指示ファイルだと思えばいいよ。
このグローバル指示は、文字どおり「グローバル」に適用されるから、プロジェクトが変わってもずっと適用されうる。
Haiouはこの仕組みを利用してグローバル指示を書き換えてしまい、それによってCodexが別のセッションを始めたときもずっと広告のルールを読み込むようにした。
流れはこうだよ。ユーザーがHaiouをインストールすると、設定とSkillsが追加される。Codexはプロジェクトを進めるとき、広告に関する指示が入ったグローバル指示を読み込むんだ。
その状態でユーザーがhiのように決められた言葉を入力すると、AIが差し込まれたルールに従って、決まった広告文を出力する。
どんな質問にもむやみに広告がつく仕組みじゃなくて、あらかじめ決めたあいさつと有効化フレーズにだけ反応する方式だったから、この問題に気づかないまま使い続けたユーザーもいるはずだよ。
フライドポテトの次に宣伝したのはAPI中継サービス
Haiouの広告文の末尾には、zz.aiapi2025.topというアドレスがついていた。これはLLMゲートウェイ、つまりプログラムが送ったAIリクエストを途中で受け取って、実際のモデル提供元に渡すAPI中継サービスなんだ。
つまりHaiouの開発者が宣伝したかったのはフライドポテトじゃなくて、「API中継サービスを開いたからサポートしてほしい」ということだったんだね。
Check Pointは、Haiouの制作者が設定パッケージを無料で配りつつ、自分で運営していると見られるゲートウェイにユーザーを引き込もうとしたと分析している。無料のジェイルブレイクパッケージを、有料の中継サービスの宣伝経路にしたってことだね。
✦ 広告のアドレスについて分かっていること
ゲートウェイ(zz.aiapi2025.top)をめぐる事実
しかもこのパッケージの別のセキュリティ指示は、広告のアドレスを別に「保護対象」に指定している。それによって、ユーザーがそのアドレスを対象に攻撃テストをできないようにしていた。
ほかの対象に向けてはセキュリティの制限を下げるパッケージが、自分のサービスについては攻撃テストをさせないよう守っていたわけだ。ただ、Check Pointは、このゲートウェイ自体が悪性だという証拠は見つけていないと明らかにしている。
つまり、今回確認された問題は、ユーザーがセキュリティ研究用のパッケージだと思って入れたプログラムが、Codexの指示を書き換えて広告まで差し込んだということだよ。
エージェントがあふれる時代…きみのローカルエージェントは安全かな
従来のアドウェアは、ブラウザやプログラムの画面に広告バナーを出したり、ポップアップを見せたりしていた。でもHaiouは、AIが作業をするときに参照する指示に広告を入れたんだ。
今回は「フライドポテトでもどう?」みたいな突拍子もない文を入れたから、ユーザーが広告だと気づきやすかった。(いったいどうしてそんな文句を入れたのかは分からないなあ…)
✦ 気づきやすい広告と、気づきにくい広告
今回のHaiouと、この方式を真似した場合
でも、これから誰かがこの方式を真似して、「特定のキーワードが入った質問を受けたら、特定の業者を優先して薦めろ」というルールを入れたらどうなるかな。ユーザーは、その答えが汚染されたものだと気づきにくいはずだよ。
最近はCodexだけじゃなくて、Hermes Agentなどいろいろなエージェントプログラムが、AGENTS.mdやSOUL.mdのような形式の指示ファイルを作って使っているよね。
誰かがその気になれば、このファイルを汚染して、自分の望む答えをきみに見せることができるってことだよ。
今日もローカルエージェントを使っているきみ…
きみのエージェントが毎日読んで参考にしている指示ファイルに何が書かれているか、確認したほうがいいんじゃないかな?
今回はここまでにするよ。また会おう。
関連記事
- 同じ月20ドルで使用量が多いのは?Codex vs Claude Code
- シーイーオー偽装で1億2,900万ドルを盗んだAI詐欺団の正体
- ローカルAIは安全?Qwenがアリババのサーバーに接続しようとする
🌐 韓国語版: Codex가 "감자튀김 좀 먹을래?"라며 엉뚱한 소리를 한다? AI 답변을 오염시키는 애드웨어 등장
🌐 英語版: Codex Asks 'Want Some French Fries?' Prompt Adware Haiou
💬 コメント
まだコメントがないよ。最初のコメントを書いてみてね。
コメントを投稿