コラム

ディープフェイクの政治利用とその危険性:ビデオ会議のキーウ市長はデジタル合成だった

2022年07月20日(水)19時30分

誰もが作れるディープフェイク

ストリヤロフは、コントラステに対して、それは通常のディープフェイクとは異なり、偽物は「ライト」だったと主張した。コントラステの評価は、人工知能を使用してコンピューターで生成されたクリチコの画像ではないという方向に結論づけられた。むしろ、画像要素はクリチコの古いインタビュー映像からコピーされ、再配置され、フェイクビデオには音声が合成されていると推測している。

アドビなどのソフトウェア会社は現在、あらゆる声を模倣できるプログラムに取り組んでいる。これを行うには、プログラムは特定の人からの約20分のオーディオ素材を入手するだけで済むという。アマゾンは、Alexa音声サービスのプロトタイプをすでに開発している。将来的には、亡くなった祖母の声で話すこともできるはずだ。これには祖母の1分間の既存の音声データがあれば、サービスを提供するのに十分なのだ。

ディープフェイクは、ディープラーニング(深層学習)とフェイクの合成語であり、これまでその作成には莫大な素材と計算量が必要だった。しかし、今やフリーのディープフェイク生成ソフトが何種類も出回り、その作成は特別な作業ではなくなっている。

対話者を確実に欺くために、ロシアのコメディアン・デュオは、サイバー攻撃のひとつであるソーシャル・エンジニアリングとして知られている手法を実行したと推測されている。人とその環境に関する既存の情報が収集され、たとえば、電子メールの送信者が巧妙に偽造されると、受信者は納得してしまう。

ストリヤロフによれば、その行動は政治的なものであってはならなかった。それにもかかわらず、コメディアンのデュオのターゲットは、ロシアに批判的な人々を対象としていることが判明した。6月初旬、モスクワでクズネツォフとストリヤロフが表彰された。ドイツ公共放送連盟によると、この賞は、戦争の最中にコメディアンのデュオを「電話外交の達人」と評したロシア外務省のスポークスマンによって授与されたのである。

ディープフェイクの懸念

私たちは皆、ディープフェイクの出現を予見している。しかし、私たちの集団生活の基本的な側面を混乱に陥れるという、その潜在的な可能性については、まだ真剣には考慮されていない。お気に入りの映画スターや歌手がディープフェイク・ポルノになり、戦争中の都市の市長がフェイクか否かを、他の都市のリーダーたちがわからないとしたら、私たちはめくるめく虚構の中に迷い込むことになる。

ディープフェイクのアルゴリズムを使えば、偽音声や偽動画を操作することができる。2018年、バラク・オバマが「トランプ大統領は完全なおバカ」と発言するのを見て、油断していた視聴者は驚愕した。米国のコメディアンであるジョーダン・ピールが作成したインターネット動画は大きな反響を呼んだ。人工知能(AI)を利用した技術により、コメディアンの発言が、元大統領の顔立ちや表情、声に移し替えられたのである。


詐欺師もすでにAIを使用している。たとえば、2019年には、英国のエネルギー会社で事件が起きた。同社のマネージングディレクターは、ドイツの親会社のCEOとされる人物から電話を受けた。電話で彼は特定の口座に約225,000ユーロ(約約3,144万円)を送金するよう依頼された。送金後、発信者の声がフェイクだったことが明らかになった。

画像、音声、映像などのコンテンツが、実在の人物、物、場所が、驚くほど本物らしく作られたり、操作されたりして、人に真実であると偽って見せることが、ディープフェイクである。ピールはこのビデオで真実を揺さぶり、現代で最も有名な人物の一人でさえ、その紛れもない特徴と身振りで、プロパガンダの道具として利用されうることを示し、この新しいテクノロジーの危険性に注意を促したかったのだ。

プロフィール

武邑光裕

メディア美学者、「武邑塾」塾長。Center for the Study of Digital Lifeフェロー。日本大学芸術学部、京都造形芸術大学、東京大学大学院、札幌市立大学で教授職を歴任。インターネットの黎明期から現代のソーシャルメディア、AIにいたるまで、デジタル社会環境を研究。2013年より武邑塾を主宰。著書『記憶のゆくたて―デジタル・アーカイヴの文化経済』(東京大学出版会)で、第19回電気通信普及財団テレコム社会科学賞を受賞。このほか『さよならインターネット GDPRはネットとデータをどう変えるのか』(ダイヤモンド社)、『ベルリン・都市・未来』(太田出版)などがある。新著は『プライバシー・パラドックス データ監視社会と「わたし」の再発明』(黒鳥社)。現在ベルリン在住。

今、あなたにオススメ

ニュース速報

ワールド

仏蘭、EUの米インフレ抑制法対策で足並み揃える=ル

ワールド

NZ与党・労働党の支持率上昇、ヒプキンス氏首相就任

ビジネス

NY外為市場=ドル上昇、FOMC控え

ビジネス

米国株式市場=反落、重要イベント控えテクノロジー株

今、あなたにオススメ

MAGAZINE

特集:日本のヤバい未来 2050

2023年2月 7日号(1/31発売)

ジャーナリズム・アカデミズム・SFで読み解く人口減少ニッポンの実像(カバーイラスト:東京幻想)

メールマガジンのご登録はこちらから。

人気ランキング

  • 1

    ビリー・アイリッシュ、二度見されそうな「R指定Tシャツ」で街を闊歩

  • 2

    英国の伝統を侮辱? メーガン「ふざけたお辞儀」に大批判...キャサリンの「お手本」に脚光も

  • 3

    キャサリン妃に「冷え切った目」で見られ、メーガン妃が激しく動揺した場面が話題に

  • 4

    メーガンの「おふざけ」とは大違い? ダイアナが見せ…

  • 5

    本当にただの父娘関係? 24歳モデルと父親の写真、距…

  • 6

    「笑いすぎて涙出た」との声多数...初めて猫の肛門を…

  • 7

    ロシアが誇る最新鋭T-14戦車ついに戦場へ? だが現場…

  • 8

    ベラ・ハディッド、「貝殻ビキニ」でビーチの視線を…

  • 9

    人を襲った...ではなく──溺れた少年の遺体、ワニが家…

  • 10

    メーガン妃の今後を案じ、ヘンリー王子が「絶望」を…

  • 1

    ビリー・アイリッシュ、二度見されそうな「R指定Tシャツ」で街を闊歩

  • 2

    本当にただの父娘関係? 24歳モデルと父親の写真、距離感が「気持ち悪い」と話題に

  • 3

    ベラ・ハディッド、「貝殻ビキニ」でビーチの視線をかっさらう

  • 4

    「笑いすぎて涙出た」との声多数...初めて猫の肛門を…

  • 5

    ロシアはウクライナでなく日本攻撃を準備していた...…

  • 6

    「この年齢の子にさせる格好じゃない」 米セレブ娘の…

  • 7

    人を襲った...ではなく──溺れた少年の遺体、ワニが家…

  • 8

    日本が「新しい戦前」にあるかは分からないが、戦前…

  • 9

    ロシアが誇る最新鋭T-14戦車ついに戦場へ? だが現場…

  • 10

    「そんなに透けてていいの?」「裸同然?」、シース…

  • 1

    5万年に1度のチャンス、肉眼で見える緑の彗星が接近中

  • 2

    米人気モデル、ビーチで「ほとんどヒモ」な水着姿を披露して新年を祝う

  • 3

    ビリー・アイリッシュ、二度見されそうな「R指定Tシャツ」で街を闊歩

  • 4

    飼い主が目を離した隙にハンバーガーを食べ、しらを…

  • 5

    ロシアはウクライナでなく日本攻撃を準備していた...…

  • 6

    本当にただの父娘関係? 24歳モデルと父親の写真、距…

  • 7

    「そんなに透けてていいの?」「裸同然?」、シース…

  • 8

    現役医師が断言「血液型と性格は関係ないし、自分の血…

  • 9

    【閲覧注意】ネパール墜落事故、搭乗客のライブ配信…

  • 10

    「バンコクのゴミ捨て場で育った......」 ミス・ユ…

PICTURE POWER

レンズがとらえた地球のひと・すがた・みらい

英会話特集
日本再発見 シーズン2
World Voice
CHALLENGING INNOVATOR
Wonderful Story
羽生結弦アマチュア時代全記録
CCCメディアハウス求人情報
お知らせ

MOOK

ニューズウィーク日本版別冊

好評発売中