オーストラリア選挙にAI偽動画!候補者の偽映像から偽警官まで

AIの偽警官インタビューを映すテレビ画面と投票箱

偽動画が次々と出てきた

オーストラリア南東部のビクトリア州で、11月28日に州議会選挙が開かれるよ。病院や学校、警察、交通を担う州政府と議会を決める選挙だよ。ところが投票を前に、出馬した候補者の偽動画から、偽の警官が登場するインタビューまで出回ったんだ。

ここは押さえておこう
オーストラリアの政党はどう分かれる?
• 労働党は、中道左派寄りの与党だよ。
• 自由党は、保守・中道右派寄りの主要野党だよ。
• ワン・ネーション(One Nation)は、移民や治安の問題を前面に出す右派の少数政党だよ。
• ビクトリア州首相(Premier)は、州政府のトップだよ。

まず、フェイスブック(Facebook)ページのAussieVoiceに上がった偽動画から見ていこう。

警察の制服を着た女性が、メルボルンのビクトリア州最高裁判所の前で、オーストラリアの放送局7NEWSの記者のインタビューを受けている場面なんだけど、こう言うんだ。

「オーストラリアに来て重大な犯罪を犯すなら、次の飛行機で故郷に帰るべきだ。」

ここで言う「次の飛行機で」は、オーストラリア市民ではない重大犯罪者を出身国へ追放しようというスローガンだよ。問題は、この女性の警官がAIで作られた偽物だったということなんだ。偽物の痕跡は、画面のあちこちに残っていたよ。

ビクトリア州最高裁判所は1884年に完成した石造りの建物なのに、動画には現代的なガラスとコンクリートの建物が映っていたんだよね。7NEWSのマイクの色も違っていたし、警察の制服も実際とは合っていなかったよ。

でも、何気なくこの動画を見た人なら、本物の警察官がそう言ったと思うかもしれないね。

✦ AussieVoiceの偽動画3本
警察のインタビュー
最高裁判所の前での7NEWSのインタビュー、「次の飛行機で故郷に」という発言
国境警備隊の職員
「不法入国者を送り返すべきか」という質問に答える動画
パスポート事務所の女性
プラカード「顔を覆うものを外さなければなりませんか?」

AussieVoiceに上がった偽動画は、ほかにもあるよ。

一つはオーストラリア連邦国境警備隊(Australian Border Force)の職員が、「不法入国者を送り返すべきか」という質問に答える動画。もう一つは、オーストラリアのパスポート事務所の前で、ヒジャブをかぶった女性がプラカードを持っている動画なんだ。

そのプラカードには、「すべての公的な本人確認のときに、顔を覆うものを外さなければなりませんか?」と書かれているよ。

これらの動画も、AIで作られた偽動画だよ。映像の中の看板には「SERVICES CORT」「ENTRALIA」というでたらめな文字が見えたし、オーストラリアの通信社AAPのファクトチェックでも、三本ともAI生成物と判定されたんだ。

これらの動画は選挙に出ている政党が出した広告ではなく、別のフェイスブックページの動画だけど、世論を誤った方向に導くのが目的に見えるよね。

〈政治家たちの偽動画への対処法を示す映像〉
* 公式YouTubeチャンネル『ABC News In-depth』にあがっている動画だよ。

今度は、政党の公式動画までAIで作る

選挙に出ている政党も、AI動画を作ったんだ。まず10月31日、ビクトリア州労働党がハロウィン動画にジェス・ウィルソン(Jess Wilson)を登場させたんだ。ウィルソンは、ビクトリア州自由党の党首で、州議会の野党党首だよ。

労働党が攻撃したのは、ウィルソンが打ち出した12億7,000万豪ドルの医療計画なんだけど、これは公立病院で手術を待っている患者を民間病院でも手術できるようにして、待ち時間を減らすというものだよ。

労働党は、ウィルソンがアメリカ式の医療制度を取り入れて医療費を大幅に上げるかのような世論を作ろうとしたんだ。そこでこの動画には、ウィルソンが心臓発作の治療15万ドル、救急車6,000ドル、出産4万ドルという数字について語る場面が出てくるんだ。

でも、ウィルソンは実際にこんなことを言ったことはないよ。

✦ 広告をめぐる反応
自由党
• ジェス・ウィルソン:「必死のネガティブキャンペーン」と反論
• 自由党:動画を「ゴミ」と非難
労働党
• ベン・キャロル:ウィルソンの発言を根拠に擁護
• コリン・ブルックス:「ほかの政党もAI動画を使ったのだから、労働党だけが批判されるわけにはいかない」

ウィルソンは、偽動画が出回っていることを知ると、「必死のネガティブキャンペーンだ」と反論したよ。

でも、ビクトリア州首相で労働党の党首であるベン・キャロル(Ben Carroll)は、ウィルソンがこれまで言ってきたことを根拠に、この偽動画を擁護したんだ。すると自由党は、動画を「ゴミ」だと非難したんだ。

ビクトリア州の財務相で労働党所属のコリン・ブルックス(Colin Brooks)は、「ほかの政党もAI動画を使ったのだから、労働党だけが批判されるわけにはいかない」と言い返したりもしたよ。

自由党も、黙ってはいなかったよ。11月3日、オーストラリアで有名な競馬の祭典「メルボルンカップ・デー」に、労働党の党首キャロルが「馬に乗ったまま眠っている」偽動画を投稿したんだ。机で眠っている姿を作った動画もあるよ。

これは10月24日にヘラルド・サン(Herald Sun)が匿名の情報源を引用して報じた、キャロルの勤務中の居眠り疑惑を皮肉ったものなんだ。

✦ ワン・ネーションの立ち上げ動画、人種をめぐる論争
登場
マチェーテを持ったアフリカ系の若者、爆弾ベストを着た中東系の男性
批判
特定の人種を犯罪者・テロリストのイメージと結びつけた
制作
マーク・ニコルソン、中国製のAIツールSeedance、制作費1,000ドル未満
反発
リッチモンド・リーディング・ルーム、ワン・ネーション支持者の支出を緑の党に寄付すると、SNSで表明

それに加えて、ワン・ネーションの選挙戦の立ち上げ動画は、人種をめぐる論争を呼んだんだ。マチェーテを持ったアフリカ系の若者と爆弾ベストを着た中東系の男性が出てくるんだけど、特定の人種を犯罪者・テロリストのイメージと結びつけたと批判されたよ。

この動画を作ったマーク・ニコルソン(Mark Nicholson)は、ワン・ネーションのビクトリア州議会上院の候補で、政治風刺の制作会社ステップメイツ・スタジオ(Stepmates Studios)の共同創設者だよ。

彼は中国製のAIツールSeedanceで動画を作り、制作費は1,000ドル未満だとABCに明かしたんだ。

この動画はかなりの騒ぎになって、カフェのリッチモンド・リーディング・ルーム(Richmond Reading Room)は、「ワン・ネーション支持者が店で使うお金を緑の党に寄付する」とSNSで不快感を示したりもしたよ。

〈ワン・ネーションのAI広告が論争を呼んだ理由を示す映像〉
* 公式YouTubeチャンネル『TODAY』にあがっている動画だよ。

偽動画を防ぐ法律はあるのかな?

✦ 州ごとに違うAI選挙広告の法律
ビクトリア州
• 広告の真実性を規制する法律:なし。承認者の名前・住所を表示
• AI生成の告知:—
• AI広告違反の上限罰金:—
• 撤回・訂正:—
南オーストラリア州
• 広告の真実性を規制する法律:あり。虚偽・誤解を招く広告とAIディープフェイクを規制
• AI生成の告知:音声3秒以上+画面全体に表示
• AI広告違反の上限罰金:個人A$5,000/法人A$10,000
• 撤回・訂正:選挙管理委員が要求、最高裁判所が命令も可能

オーストラリアの中でも、州ごとに適用される法律が違うんだ。ビクトリア州緑の党の代表エレン・サンデル(Ellen Sandell)は、政治ディープフェイク広告を禁止して、政治広告の真実性を確保する法律を作ろうと求めたよ。

ビクトリア州選挙管理委員会は、今のところ州内にそういう法律はないと説明しているよ。選挙の宣伝物には、誰が作って承認したのか、名前と住所を表示するだけでいいんだ。一方で、南オーストラリア州のように、選挙法でAIの偽の選挙広告を規制している地域もあるんだ。

とにかく、こうしたAI偽動画を防ぐ法制度は、世界的にまだ整っていないところが多いよ。しばらくは、偽動画を見分けて取り締まるのに苦労するだろうね。

これまでも、政治の宣伝物は相手の主張をでっち上げたり誇張したりして作られることがよくあったんだ。でも、相手の候補が実際にある発言や行動をしたかのように作られた偽動画は、受け入れられる一線を越えているのだろうね。

オーストラリアだけじゃなく、これから世界中で、こうしたAI技術を使った偽動画がはびこるだろうね。

今はユーチューブ(YouTube)をはじめとする動画プラットフォームの動画を、何も考えずに見ているけど、これからは動画を見るたびに「この動画は本物なのか、そうじゃないのか」をまず見分けてから見なければいけない時が来るかもしれないね。

〈緑の党によるAIディープフェイク動画批判を示す映像〉
* 公式YouTubeチャンネル『Australian Community Media』にあがっている動画だよ。

今回はここまでにするよ。また会おう。

関連記事:平凡なペット写真アプリが突然提案してくる…「AI性的搾取ディープフェイク動画、作ってあげようか?」

関連記事:「AI製か確認して!」GoogleのSynthID Detectorが無料公開

関連記事:AIに投票させたら、お互いの意見を真似し始めた!AIの群集心理

💬 コメント

まだコメントがないよ。最初のコメントを書いてみてね。