偽動画が次々と出てきた
オーストラリア南東部のビクトリア州で、11月28日に州議会選挙が開かれるよ。病院や学校、警察、交通を担う州政府と議会を決める選挙だよ。ところが投票を前に、出馬した候補者の偽動画から、偽の警官が登場するインタビューまで出回ったんだ。
まず、フェイスブック(Facebook)ページのAussieVoiceに上がった偽動画から見ていこう。
警察の制服を着た女性が、メルボルンのビクトリア州最高裁判所の前で、オーストラリアの放送局7NEWSの記者のインタビューを受けている場面なんだけど、こう言うんだ。
「オーストラリアに来て重大な犯罪を犯すなら、次の飛行機で故郷に帰るべきだ。」
ここで言う「次の飛行機で」は、オーストラリア市民ではない重大犯罪者を出身国へ追放しようというスローガンだよ。問題は、この女性の警官がAIで作られた偽物だったということなんだ。偽物の痕跡は、画面のあちこちに残っていたよ。
ビクトリア州最高裁判所は1884年に完成した石造りの建物なのに、動画には現代的なガラスとコンクリートの建物が映っていたんだよね。7NEWSのマイクの色も違っていたし、警察の制服も実際とは合っていなかったよ。
でも、何気なくこの動画を見た人なら、本物の警察官がそう言ったと思うかもしれないね。
AussieVoiceに上がった偽動画は、ほかにもあるよ。
一つはオーストラリア連邦国境警備隊(Australian Border Force)の職員が、「不法入国者を送り返すべきか」という質問に答える動画。もう一つは、オーストラリアのパスポート事務所の前で、ヒジャブをかぶった女性がプラカードを持っている動画なんだ。
そのプラカードには、「すべての公的な本人確認のときに、顔を覆うものを外さなければなりませんか?」と書かれているよ。
これらの動画も、AIで作られた偽動画だよ。映像の中の看板には「SERVICES CORT」「ENTRALIA」というでたらめな文字が見えたし、オーストラリアの通信社AAPのファクトチェックでも、三本ともAI生成物と判定されたんだ。
これらの動画は選挙に出ている政党が出した広告ではなく、別のフェイスブックページの動画だけど、世論を誤った方向に導くのが目的に見えるよね。
今度は、政党の公式動画までAIで作る
選挙に出ている政党も、AI動画を作ったんだ。まず10月31日、ビクトリア州労働党がハロウィン動画にジェス・ウィルソン(Jess Wilson)を登場させたんだ。ウィルソンは、ビクトリア州自由党の党首で、州議会の野党党首だよ。
労働党が攻撃したのは、ウィルソンが打ち出した12億7,000万豪ドルの医療計画なんだけど、これは公立病院で手術を待っている患者を民間病院でも手術できるようにして、待ち時間を減らすというものだよ。
労働党は、ウィルソンがアメリカ式の医療制度を取り入れて医療費を大幅に上げるかのような世論を作ろうとしたんだ。そこでこの動画には、ウィルソンが心臓発作の治療15万ドル、救急車6,000ドル、出産4万ドルという数字について語る場面が出てくるんだ。
でも、ウィルソンは実際にこんなことを言ったことはないよ。
ウィルソンは、偽動画が出回っていることを知ると、「必死のネガティブキャンペーンだ」と反論したよ。
でも、ビクトリア州首相で労働党の党首であるベン・キャロル(Ben Carroll)は、ウィルソンがこれまで言ってきたことを根拠に、この偽動画を擁護したんだ。すると自由党は、動画を「ゴミ」だと非難したんだ。
ビクトリア州の財務相で労働党所属のコリン・ブルックス(Colin Brooks)は、「ほかの政党もAI動画を使ったのだから、労働党だけが批判されるわけにはいかない」と言い返したりもしたよ。
自由党も、黙ってはいなかったよ。11月3日、オーストラリアで有名な競馬の祭典「メルボルンカップ・デー」に、労働党の党首キャロルが「馬に乗ったまま眠っている」偽動画を投稿したんだ。机で眠っている姿を作った動画もあるよ。
これは10月24日にヘラルド・サン(Herald Sun)が匿名の情報源を引用して報じた、キャロルの勤務中の居眠り疑惑を皮肉ったものなんだ。
それに加えて、ワン・ネーションの選挙戦の立ち上げ動画は、人種をめぐる論争を呼んだんだ。マチェーテを持ったアフリカ系の若者と爆弾ベストを着た中東系の男性が出てくるんだけど、特定の人種を犯罪者・テロリストのイメージと結びつけたと批判されたよ。
この動画を作ったマーク・ニコルソン(Mark Nicholson)は、ワン・ネーションのビクトリア州議会上院の候補で、政治風刺の制作会社ステップメイツ・スタジオ(Stepmates Studios)の共同創設者だよ。
彼は中国製のAIツールSeedanceで動画を作り、制作費は1,000ドル未満だとABCに明かしたんだ。
この動画はかなりの騒ぎになって、カフェのリッチモンド・リーディング・ルーム(Richmond Reading Room)は、「ワン・ネーション支持者が店で使うお金を緑の党に寄付する」とSNSで不快感を示したりもしたよ。
偽動画を防ぐ法律はあるのかな?
オーストラリアの中でも、州ごとに適用される法律が違うんだ。ビクトリア州緑の党の代表エレン・サンデル(Ellen Sandell)は、政治ディープフェイク広告を禁止して、政治広告の真実性を確保する法律を作ろうと求めたよ。
ビクトリア州選挙管理委員会は、今のところ州内にそういう法律はないと説明しているよ。選挙の宣伝物には、誰が作って承認したのか、名前と住所を表示するだけでいいんだ。一方で、南オーストラリア州のように、選挙法でAIの偽の選挙広告を規制している地域もあるんだ。
とにかく、こうしたAI偽動画を防ぐ法制度は、世界的にまだ整っていないところが多いよ。しばらくは、偽動画を見分けて取り締まるのに苦労するだろうね。
これまでも、政治の宣伝物は相手の主張をでっち上げたり誇張したりして作られることがよくあったんだ。でも、相手の候補が実際にある発言や行動をしたかのように作られた偽動画は、受け入れられる一線を越えているのだろうね。
オーストラリアだけじゃなく、これから世界中で、こうしたAI技術を使った偽動画がはびこるだろうね。
今はユーチューブ(YouTube)をはじめとする動画プラットフォームの動画を、何も考えずに見ているけど、これからは動画を見るたびに「この動画は本物なのか、そうじゃないのか」をまず見分けてから見なければいけない時が来るかもしれないね。
今回はここまでにするよ。また会おう。
関連記事:平凡なペット写真アプリが突然提案してくる…「AI性的搾取ディープフェイク動画、作ってあげようか?」
関連記事:「AI製か確認して!」GoogleのSynthID Detectorが無料公開
関連記事:AIに投票させたら、お互いの意見を真似し始めた!AIの群集心理
🌐 韓国語版:호주 선거판에 등장한 AI 조작 영상! 출마한 후보의 가짜 AI 영상부터 가짜 경찰까지...
🌐 英語版:Australian Election AI Fakes: From Fake Candidate Videos to Fake Cops
💬 コメント
まだコメントがないよ。最初のコメントを書いてみてね。
コメントを投稿