AIニセ動画　高市総理を悪用　所々で変な言葉や言い回し…途中まで気付かなかった人も

　日経平均株価が連日、史上最高値を更新し「高市トレード」と言われているなか、高市早苗総理大臣が投資を促すニセの動画がネット上に拡散しています。自民党や警察庁は、投資詐欺に遭う可能性があるとして注意を呼び掛けています。

■高市総理が“悪用”される事態が

　29日午後、高市総理が面会したのは生成AIサービスを展開するアメリカ企業の代表らです。

高市総理 「日本にとって今ものすごく大事なのがAIの信頼性でございます。そして安全性でございます。高市政権では危機管理投資、リスクを最小化して、そしてまたそれを成長につなげていく。これを大事な政策の柱にしています」

　今、生成AIによって、高市総理が“悪用”される事態が起きています。

フェイク動画 「このプラットフォームは急に多くの日本人に数十万円の利益をもたらしており、今や誰もが利用可能です。この情報が隠されていた以上、私は今や全国民と共有する義務があります」

　生成AIで作られたニセ動画です。高市氏の声質や、言葉と唇の動きも合っており、まるで本当にしゃべっているかのようです。

　画面には大きくQRコードが表示され、詐欺サイトへのアクセスを促しています。しかし、動画をよくみると、ところどころで変な言葉や言い回しが…。

「投資すれば、最初の“いつかげつ”で安定した収入を“はじめます”。“当社”のデータによれば、参加者は平均で“いじかん”あたり“ごぜん元”を稼いでいる。これは“ゆきじつ”あたり“ゆじき”3万円。つまり月間3“ぱい”“ぱち”万円を超える金額に相当する」

　1カ月を“いつかげつ”と言い、総理が“当社”と言ったり、金額の単位に円ではなく“元”を使ったりと、不自然な部分が多くあるのが分かります。

　しかし、このニセ動画を見た人のなかには、リアルな作りに、途中までニセ動画だと気が付かなかったという人もいました。

SNSから 「ユーチューブを見ていたら流れてきたけど、現実っぽくて驚いた」 「AIって言われるまで気づかなかった」

　高市氏が自民党総裁に選ばれた当日に行われた記者会見の実際の映像。ニセ動画と見比べると、着ている服、ネックレス、胸ポケットのチーフ、マイクなどが一致。この時の映像をもとに、AIでニセ動画を作ったと思われます。

　高市総理誕生後、史上最高値を更新し続けている日経平均株価。29日の終値は5万1000円を超え、高市トレードに沸くなか、投資をうたったニセ動画が拡散しています。

　自民党広報のSNSでは、こうしたニセ動画について…。

「最近、高市早苗総裁の画像や映像をAIで生成し、あたかも本人が登場しているかのように装ったニセ広告がインターネット上に出回っているとの報告が寄せられています。これらの広告は高市総裁および自由民主党とは一切関係がありません」

　さらに警察も、高市総理の生成AIニセ動画を確認。警察庁のSNSでは、投資詐欺やフィッシングなどの被害に遭う可能性があるとして注意を呼び掛けています。

　2年前、科学技術政策担当大臣だった時に、政府の「AI戦略会議」に出席していた高市氏です。

高市氏 「生成AIによって創作された動画ですとか、ニセ音声の拡散による社会の混乱。治安上のリスク、民主主義へのリスク、こういったものも心配をしております」（2023年5月）

　この時、すでに「生成AI」について懸念事項を口にしていました。

高市氏 「日本も生成AIのよいものを開発していく。同時にリスクへの対応。これもしっかりと進めていかなければいけない」

　一見しただけでは見破るのが難しいほど精巧に作られた生成AIのニセ動画。

アーガイル株式会社　岡安淳司代表取締役 「本当に最近のAIは賢いので、（動画に）『こうしたい』という要求を伝えるだけで、望んだ通りのものを出してくれます」

　生成AIサービスを開発している岡安さんは、今後さらにその精巧さは増していくと懸念しています。

岡安代表取締役 「以前はできなかったことができる。不自然だったところが、どんどん直っていくということが起きているので、おそらく来年には、どんなプロの人でも見分けがつかないレベルの動画が生成できるようにはなっているんじゃないかな…。『信じたいものを信じる』っていうスタンスだと、ちょっと危ない時代に」

■ニセ情報を真実だと思った人は…

　さらに今、世界で拡散され問題となっているのが、高市政権で経済安全保障担当大臣に任命された小野田紀美氏の映像を使用したSNSへの投稿です。「日本の新総理が最初の政策として大量国外退去を決定。高市早苗が就任し、即座に大量国外退去のための省庁を設立」と英語で書かれいます。

　このニセ情報の投稿は948万件も表示され、27万件の「いいね」が付いていました。他にも、タイ語、ドイツ語、スペイン語でも拡散されていたといい、その閲覧回数は計り知れません。

　この投稿を見て、真実だと思った人のコメントには…。

投稿へのコメント 「日本人にはいい選択だ！」 「ヨーロッパもすぐに始めるべきことだ！」

　同調する英語のコメントも多数ありますが、なかには、日本に居ることや、日本に行くことに対して不安視する外国人も。

投稿へのコメント 「合法的に日本に行っても受け入れないの？そうならないことを願っている」 「説得力がある理由がない限り、日本に長期滞在することはお勧めしません」

　広がり続けるニセ動画。選挙に影響を与えたケースもあります。その実態とは…。

■選挙に影響？投票前にニセ動画

　生成AIによるフェイク動画が国政選挙にも影響を与えた可能性が指摘されています。

　1つは、2023年9月に行われたスロバキアの総選挙。投票前の世論調査ではプログレッシブ・スロバキア党がリードしていましたが、選挙の2日前に、プログレッシブ・スロバキア党の党首が選挙結果を改ざんしようとしているというAIで作られたニセの会話音声がSNSで流布されました。

　選挙結果は、スメル党が逆転で勝利。このニセの会話音声が影響したのではないかという指摘もあります。

　また2023年の5月、トルコの大統領選挙でも、投票前の世論調査では野党6党の統一候補クルチダルオール氏がリードしていましたが、テロ集団がクルチダルオール候補を支持しているといったAIのニセ動画がSNSで流布されました。選挙結果は現職のエルドアン大統領が逆転で勝利しました。

　さらに、今年6月の韓国の大統領選挙の時には、ニセの画像やニセ動画の削除要請が1万508件に上ったということです。

（「羽鳥慎一 モーニングショー」2025年10月30日放送分より）