越前功・国立情報学研究所教授「偽情報の氾濫は大きな脅威」

ディープフェイクなどの技術がどこまで進み、社会にどんな影響が出ているのか。この問題に詳しい越前功・国立情報学研究所教授に聞きました。越前教授はディープフェイク映像の検知技術を世界に先駆けて開発したことで知られ、12月から始まった国の研究プロジェクト「インフォデミックを克服するソーシャル情報基盤技術」の研究代表者を務めています。

――ディープフェイクなどの最近の状況をどうみていますか。

越前功・国立情報学研究所教授

「フェイクはビデオ映像や画像だけでなく、有名人の声をまねて合成した音声や、人が書いたものと区別がつかない文章などでも問題になっています。これらを我々はフェイクメディアと呼んでいます。偽造写真を使って人をだますなどの手口は昔からあったのですが、人が気付かないほど『そっくり』の顔や姿や音声、発言がデジタルメディアとして流通するようになったのが特徴です」

「昨年、英国の民間調査機関が実験的に制作した、ジョンソン首相と野党党首が登場する討論動画が話題になりました。政治的に対立しているはずの2人が弁論を駆使していかに相手が次期首相にふさわしいかを論じ合うというありえないシナリオなのですが、2人の顔は本人そのままで、話し方や使う言葉の癖も似せてあるので、見ている側は引き込まれてしまいます」

「こうした手の込んだフェイク映像を、専門的な知識がない人でもちょっと勉強すれば作れるようになっています。さらにスマートフォンやSNS(交流サイト)の普及で、こういしたコンテンツを容易に発信したり共有したりできるようになり、フェイク拡散のリスクが高まっています」

――映像だけでなく言葉を使ったフェイクニュースにも注意が必要ですね。

「米国の人工知能(AI)研究機関であるOpenAIが開発した『GPT』という言語モデルを使うと、人間が書いたような自然な文章を大量に生成することができます。私もこれを使って商品サイトのフェイクレビューのサンプルをたくさん作り、人によって書かれたレビューと比べて、フェイクを検知する研究を進めています」

「米ワシントン大学とアレン人工知能研究所は共同で、フェイクニュースを自動的に生成できるGrover(グローバー)というAIモデルを開発しました。ニュース原稿などのデータをAIに学習させて、ニュース記事に特有の表現や文体を覚えさせます。フェイク映像生成に使われる敵対的生成ネットワークというディープラーニング(深層学習)技術がここでも使われています」

「新型コロナウイルス感染症が拡大する中で、感染状況や治療法に関する不確かな情報が拡散する『インフォデミック』が問題になりました。こうしたニセ情報やフェイクニュースが、先ほどの英国のビデオのように映像も巧妙に組み合わされて流されることで、人々が惑わされたり、世論が操作されたりする危険があります。ディープフェイクを使って偽のポルノ映像が流されることなどが今問題になっていますが、今後は様々なフェイクメディアが巧妙に利用されて生み出されるインフォデミックが大きな脅威になると考えられます」

ブックコーナー ビジネス書などの書評はこちら