生成ＡＩ（人工知能）を利用して岸田首相らの「偽発言」を作り出せるアプリが、ネット上に公開されていることがわかった。アプリに入力した文章を岸田首相らの偽音声で朗読させる仕組みで、スマートフォンなどで無料で使える状態になっている。専門家からは、悪用されかねないとして、対策を求める声が出ている。 【写真】ニコニコ動画に投稿された岸田首相の偽動画
Ｘに投稿
問題のアプリでは、岸田首相のほか、安倍晋三・元首相と菅義偉・前首相の「偽発言」を作成できるものも公開されている。それぞれ３人の顔写真が表示され、入力欄に文章を打ち込むと、３人に似た音声でその文章が自動的に朗読される。
アプリのＵＲＬはＳＮＳなどで拡散されており、スマホのほか、パソコンなどでアクセスするとすぐに使える。Ｘ（旧ツイッター）には、このアプリで作ったとみられる「偽発言」が投稿され、安倍氏に、「ディープステート（闇の政府）、包囲網の構築についてプーチン大統領とは危機感を共有できた」などと虚偽発言させている。
このアプリを作成したのは、安倍、菅両氏らの偽動画をネット上に投稿している兵庫県の男性（２５）だ。
男性によると、ネット上にある岸田首相らの演説動画などから音声を学習させて偽音声を作成。入力した文章を自動的に朗読させるアプリを作ったという。
男性は昨秋以降、安倍、菅両氏のほか、岸田首相の偽音声を利用した動画を制作し、定期的に投稿している。アプリを作った理由について、「自分と同じように、政治家らをバカにしたパロディーを作る人が現れてほしいと思った」と話した。
政治家の偽動画を巡っては今月初旬、日本テレビのニュース番組のロゴを使い、岸田首相に卑わいな発言をさせた偽動画がＸで拡散した。投稿したのは大阪府の男性（２５）で、今回のアプリを作った兵庫県の男性に、偽音声の作り方を教えていた。
「対策強化を」
政府の「ＡＩ戦略会議」のメンバーで、国際大の山口真一准教授（経済学）は、「ディープフェイクの大衆化」が進んでいると分析する。生成ＡＩの急速な普及により、専門的な知識や資金がなくても、誰でも手軽に偽動画を作れるためだ。
山口准教授らの研究チームは今年行った調査で、安倍氏の国葬に反対するデモの参加者数など、ネットで拡散された政治に関する偽・誤情報を六つ挙げ、見聞きした人に真偽を尋ねた。各情報の接触数に応じた加重平均で算出すると、「誤った情報だと思う」としたのは、回答した２０１８人のうち、１３％にとどまった。
山口准教授は、「政治家の偽動画や偽音声が、選挙や株価、災害時など様々な場面で混乱を引き起こすことは容易に想像できる。ＳＮＳで国境を越えて拡散されることも脅威で、プロパガンダに利用されれば、国際問題にも発展しかねない」と警告する。
その上で、「例えば、ＡＩで作った動画や音声を投稿する際には、そのことを明示させるよう義務づけたり、ＡＩによる動画や音声であることを見抜く技術を積極的に活用したりするなど、対策の強化が求められる」と話している。
海外では規制進む
海外では偽動画を規制するためのルール整備が進む。
欧州連合（ＥＵ）の執行機関・欧州委員会は昨年６月、ネット上の偽情報対策を強化するための行動規範をまとめ、米グーグルやメタ（旧フェイスブック）などがこれに署名している。
今月に入って、メタとグーグルは対策を相次いで発表した。メタは、フェイスブックやインスタグラムの政治広告にＡＩを利用した場合、それを明示するよう広告主に求めるとした。
グーグルも、動画投稿サイト「ユーチューブ」に生成ＡＩで作った動画を投稿する場合は明示ラベルの貼付を求めると表明。違反があれば、投稿を削除するという。
松野官房長官は今月６日の記者会見で、「政府の情報を偽って発信することは、民主主義の基盤を傷つけることにもなりかねず、行われるべきではない」と指摘。対策については、「国際的な議論やＡＩ戦略会議での議論なども踏まえ、関係省庁と連携して必要な検討をしていきたい」と述べるにとどめた。
