コラム

ディープフェイクの政治利用とその危険性:ビデオ会議のキーウ市長はデジタル合成だった

2022年07月20日(水)19時30分

誰もが作れるディープフェイク

ストリヤロフは、コントラステに対して、それは通常のディープフェイクとは異なり、偽物は「ライト」だったと主張した。コントラステの評価は、人工知能を使用してコンピューターで生成されたクリチコの画像ではないという方向に結論づけられた。むしろ、画像要素はクリチコの古いインタビュー映像からコピーされ、再配置され、フェイクビデオには音声が合成されていると推測している。

アドビなどのソフトウェア会社は現在、あらゆる声を模倣できるプログラムに取り組んでいる。これを行うには、プログラムは特定の人からの約20分のオーディオ素材を入手するだけで済むという。アマゾンは、Alexa音声サービスのプロトタイプをすでに開発している。将来的には、亡くなった祖母の声で話すこともできるはずだ。これには祖母の1分間の既存の音声データがあれば、サービスを提供するのに十分なのだ。

ディープフェイクは、ディープラーニング(深層学習)とフェイクの合成語であり、これまでその作成には莫大な素材と計算量が必要だった。しかし、今やフリーのディープフェイク生成ソフトが何種類も出回り、その作成は特別な作業ではなくなっている。

対話者を確実に欺くために、ロシアのコメディアン・デュオは、サイバー攻撃のひとつであるソーシャル・エンジニアリングとして知られている手法を実行したと推測されている。人とその環境に関する既存の情報が収集され、たとえば、電子メールの送信者が巧妙に偽造されると、受信者は納得してしまう。

ストリヤロフによれば、その行動は政治的なものであってはならなかった。それにもかかわらず、コメディアンのデュオのターゲットは、ロシアに批判的な人々を対象としていることが判明した。6月初旬、モスクワでクズネツォフとストリヤロフが表彰された。ドイツ公共放送連盟によると、この賞は、戦争の最中にコメディアンのデュオを「電話外交の達人」と評したロシア外務省のスポークスマンによって授与されたのである。

ディープフェイクの懸念

私たちは皆、ディープフェイクの出現を予見している。しかし、私たちの集団生活の基本的な側面を混乱に陥れるという、その潜在的な可能性については、まだ真剣には考慮されていない。お気に入りの映画スターや歌手がディープフェイク・ポルノになり、戦争中の都市の市長がフェイクか否かを、他の都市のリーダーたちがわからないとしたら、私たちはめくるめく虚構の中に迷い込むことになる。

ディープフェイクのアルゴリズムを使えば、偽音声や偽動画を操作することができる。2018年、バラク・オバマが「トランプ大統領は完全なおバカ」と発言するのを見て、油断していた視聴者は驚愕した。米国のコメディアンであるジョーダン・ピールが作成したインターネット動画は大きな反響を呼んだ。人工知能(AI)を利用した技術により、コメディアンの発言が、元大統領の顔立ちや表情、声に移し替えられたのである。


詐欺師もすでにAIを使用している。たとえば、2019年には、英国のエネルギー会社で事件が起きた。同社のマネージングディレクターは、ドイツの親会社のCEOとされる人物から電話を受けた。電話で彼は特定の口座に約225,000ユーロ(約約3,144万円)を送金するよう依頼された。送金後、発信者の声がフェイクだったことが明らかになった。

画像、音声、映像などのコンテンツが、実在の人物、物、場所が、驚くほど本物らしく作られたり、操作されたりして、人に真実であると偽って見せることが、ディープフェイクである。ピールはこのビデオで真実を揺さぶり、現代で最も有名な人物の一人でさえ、その紛れもない特徴と身振りで、プロパガンダの道具として利用されうることを示し、この新しいテクノロジーの危険性に注意を促したかったのだ。

プロフィール

武邑光裕

メディア美学者、「武邑塾」塾長。Center for the Study of Digital Lifeフェロー。日本大学芸術学部、京都造形芸術大学、東京大学大学院、札幌市立大学で教授職を歴任。インターネットの黎明期から現代のソーシャルメディア、AIにいたるまで、デジタル社会環境を研究。2013年より武邑塾を主宰。著書『記憶のゆくたて―デジタル・アーカイヴの文化経済』(東京大学出版会)で、第19回電気通信普及財団テレコム社会科学賞を受賞。このほか『さよならインターネット GDPRはネットとデータをどう変えるのか』(ダイヤモンド社)、『ベルリン・都市・未来』(太田出版)などがある。新著は『プライバシー・パラドックス データ監視社会と「わたし」の再発明』(黒鳥社)。現在ベルリン在住。

今、あなたにオススメ

ニュース速報

ビジネス

トヨタのサンクトペテルブルク工場、ロシアに譲渡=産

ビジネス

英GDP確報値、第4四半期は前期比+0.1% 景気

ワールド

日本政府、半導体製造装置を輸出管理対象に 米が対中

ビジネス

ユーロ圏CPI、3月速報は前年比+6.9%に急低下

今、あなたにオススメ

MAGAZINE

特集:小泉悠×河東哲夫 ウクライナ戦争 超分析

2023年4月 4日号(3/28発売)

戦争の「天王山」/ウクライナ戦車旅団/プーチンの正体......。日本有数のロシア通である2人の特別対談・前編

メールマガジンのご登録はこちらから。

人気ランキング

  • 1

    生地越しにバストトップが... エムラタ、ばっさりショートに「透け過ぎ」衣装でベッドにごろり

  • 2

    北朝鮮軍の「エロい」訓練動画に世界が困惑!

  • 3

    女性兵士50人が犠牲に...北朝鮮軍が動揺した「鬼畜事件」

  • 4

    ロシアとの戦いで「ウクライナ軍は世界一の軍隊にな…

  • 5

    北朝鮮の「プリンセス」キム・ジュエ、栄養失調の国民よ…

  • 6

    「体が大きく曲がったクジラを目撃した!」──スペイン

  • 7

    モスクワ上空に不気味な「黒い輪」出現 正体めぐり…

  • 8

    ハリウッドの「モテ女」エミリー・ラタコウスキーが…

  • 9

    戦争の焦点は「ウクライナ軍のクリミア奪還作戦」へ…

  • 10

    【レア動画4選】ウクライナとロシア戦車の一騎討ち<…

  • 1

    生地越しにバストトップが... エムラタ、ばっさりショートに「透け過ぎ」衣装でベッドにごろり

  • 2

    「見られる価値のない体なんてない」 車椅子に乗った障がい者女性が下着モデルに...批判にも大反論

  • 3

    大丈夫? 見えてない? テイラー・スウィフトのライブ衣装、きわどすぎて観客を心配させる

  • 4

    金融のドミノ倒し、次はドイツ銀行か

  • 5

    北朝鮮軍の「エロい」訓練動画に世界が困惑!

  • 6

    女性兵士50人が犠牲に...北朝鮮軍が動揺した「鬼畜事…

  • 7

    大事な部分を「羽根」で隠しただけ...米若手女優、ほ…

  • 8

    北朝鮮の「プリンセス」キム・ジュエ、栄養失調の国民よ…

  • 9

    「次は馬で出撃か?」 戦車不足のロシア、1940年代の…

  • 10

    「ベッドでやれ!」 賑わうビーチで我慢できなくなっ…

  • 1

    大事な部分を「羽根」で隠しただけ...米若手女優、ほぼ丸見えドレスに「悪趣味」の声

  • 2

    推定「Zカップ」の人工乳房を着けて授業をした高校教師、大揉めの末に休職

  • 3

    【写真6枚】屋根裏に「謎の住居」を発見...その中には...

  • 4

    ざわつくスタバの駐車場、車の周りに人だかり 出て…

  • 5

    生地越しにバストトップが... エムラタ、ばっさりシ…

  • 6

    年金は何歳から受給するのが正解? 早死にしたら損だ…

  • 7

    【悲惨動画3選】素人ロシア兵の死にざま──とうとう…

  • 8

    プーチンの居場所は、愛人と暮らす森の中の「金ピカ…

  • 9

    ウクライナ軍兵士の凄技!自爆型ドローンがロシア戦…

  • 10

    「この世のものとは...」 シースルードレスだらけの…

日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story