コラム

ディープフェイクの政治利用とその危険性:ビデオ会議のキーウ市長はデジタル合成だった

2022年07月20日(水)19時30分

誰もが作れるディープフェイク

ストリヤロフは、コントラステに対して、それは通常のディープフェイクとは異なり、偽物は「ライト」だったと主張した。コントラステの評価は、人工知能を使用してコンピューターで生成されたクリチコの画像ではないという方向に結論づけられた。むしろ、画像要素はクリチコの古いインタビュー映像からコピーされ、再配置され、フェイクビデオには音声が合成されていると推測している。

アドビなどのソフトウェア会社は現在、あらゆる声を模倣できるプログラムに取り組んでいる。これを行うには、プログラムは特定の人からの約20分のオーディオ素材を入手するだけで済むという。アマゾンは、Alexa音声サービスのプロトタイプをすでに開発している。将来的には、亡くなった祖母の声で話すこともできるはずだ。これには祖母の1分間の既存の音声データがあれば、サービスを提供するのに十分なのだ。

ディープフェイクは、ディープラーニング(深層学習)とフェイクの合成語であり、これまでその作成には莫大な素材と計算量が必要だった。しかし、今やフリーのディープフェイク生成ソフトが何種類も出回り、その作成は特別な作業ではなくなっている。

対話者を確実に欺くために、ロシアのコメディアン・デュオは、サイバー攻撃のひとつであるソーシャル・エンジニアリングとして知られている手法を実行したと推測されている。人とその環境に関する既存の情報が収集され、たとえば、電子メールの送信者が巧妙に偽造されると、受信者は納得してしまう。

ストリヤロフによれば、その行動は政治的なものであってはならなかった。それにもかかわらず、コメディアンのデュオのターゲットは、ロシアに批判的な人々を対象としていることが判明した。6月初旬、モスクワでクズネツォフとストリヤロフが表彰された。ドイツ公共放送連盟によると、この賞は、戦争の最中にコメディアンのデュオを「電話外交の達人」と評したロシア外務省のスポークスマンによって授与されたのである。

ディープフェイクの懸念

私たちは皆、ディープフェイクの出現を予見している。しかし、私たちの集団生活の基本的な側面を混乱に陥れるという、その潜在的な可能性については、まだ真剣には考慮されていない。お気に入りの映画スターや歌手がディープフェイク・ポルノになり、戦争中の都市の市長がフェイクか否かを、他の都市のリーダーたちがわからないとしたら、私たちはめくるめく虚構の中に迷い込むことになる。

ディープフェイクのアルゴリズムを使えば、偽音声や偽動画を操作することができる。2018年、バラク・オバマが「トランプ大統領は完全なおバカ」と発言するのを見て、油断していた視聴者は驚愕した。米国のコメディアンであるジョーダン・ピールが作成したインターネット動画は大きな反響を呼んだ。人工知能(AI)を利用した技術により、コメディアンの発言が、元大統領の顔立ちや表情、声に移し替えられたのである。


詐欺師もすでにAIを使用している。たとえば、2019年には、英国のエネルギー会社で事件が起きた。同社のマネージングディレクターは、ドイツの親会社のCEOとされる人物から電話を受けた。電話で彼は特定の口座に約225,000ユーロ(約約3,144万円)を送金するよう依頼された。送金後、発信者の声がフェイクだったことが明らかになった。

画像、音声、映像などのコンテンツが、実在の人物、物、場所が、驚くほど本物らしく作られたり、操作されたりして、人に真実であると偽って見せることが、ディープフェイクである。ピールはこのビデオで真実を揺さぶり、現代で最も有名な人物の一人でさえ、その紛れもない特徴と身振りで、プロパガンダの道具として利用されうることを示し、この新しいテクノロジーの危険性に注意を促したかったのだ。

プロフィール

武邑光裕

メディア美学者、「武邑塾」塾長。Center for the Study of Digital Lifeフェロー。日本大学芸術学部、京都造形芸術大学、東京大学大学院、札幌市立大学で教授職を歴任。インターネットの黎明期から現代のソーシャルメディア、AIにいたるまで、デジタル社会環境を研究。2013年より武邑塾を主宰。著書『記憶のゆくたて―デジタル・アーカイヴの文化経済』(東京大学出版会)で、第19回電気通信普及財団テレコム社会科学賞を受賞。このほか『さよならインターネット GDPRはネットとデータをどう変えるのか』(ダイヤモンド社)、『ベルリン・都市・未来』(太田出版)などがある。新著は『プライバシー・パラドックス データ監視社会と「わたし」の再発明』(黒鳥社)。現在ベルリン在住。

あわせて読みたい
ニュース速報

ワールド

日米韓が合同訓練、B52爆撃機参加 3カ国制服組ト

ビジネス

上海の規制当局、ステーブルコイン巡る戦略的対応検討

ワールド

スペイン、今夏の観光売上高は鈍化見通し 客数は最高

ワールド

トランプ氏、カナダに35%関税 他の大半の国は「一
あわせて読みたい
MAGAZINE
特集:大森元貴「言葉の力」
特集:大森元貴「言葉の力」
2025年7月15日号(7/ 8発売)

時代を映すアーティスト・大森元貴の「言葉の力」の源泉にロングインタビューで迫る

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    「弟ができた!」ゴールデンレトリバーの初対面に、ネットが感動の渦
  • 2
    シャーロット王女の「ロイヤル・ボス」ぶりが話題に...「曾祖母エリザベス女王の生き写し」
  • 3
    トランプ関税と財政の無茶ぶりに投資家もうんざり、「強いドルは終わった」
  • 4
    日本企業の「夢の電池」技術を中国スパイが流出...AP…
  • 5
    アメリカを「好きな国・嫌いな国」ランキング...日本…
  • 6
    アメリカの保守派はどうして温暖化理論を信じないの…
  • 7
    名古屋が中国からのフェンタニル密輸の中継拠点に?…
  • 8
    【クイズ】日本から密輸?...鎮痛剤「フェンタニル」…
  • 9
    ハメネイの側近がトランプ「暗殺」の脅迫?「別荘で…
  • 10
    犯罪者に狙われる家の「共通点」とは? 広域強盗事…
  • 1
    ディズニー・クルーズラインで「子供が海に転落」...父親も飛び込み大惨事に、一体何が起きたのか?
  • 2
    「弟ができた!」ゴールデンレトリバーの初対面に、ネットが感動の渦
  • 3
    日本企業の「夢の電池」技術を中国スパイが流出...APB「乗っ取り」騒動、日本に欠けていたものは?
  • 4
    後ろの川に...婚約成立シーンを記録したカップルの幸…
  • 5
    シャーロット王女の「ロイヤル・ボス」ぶりが話題に..…
  • 6
    「やらかした顔」がすべてを物語る...反省中のワンコ…
  • 7
    「本物の強さは、股関節と脚に宿る」...伝説の「元囚…
  • 8
    「飛行機内が臭い...」 原因はまさかの「座席の下」…
  • 9
    為末大×TAKUMI──2人のプロが語る「スポーツとお金」 …
  • 10
    職場でのいじめ・パワハラで自死に追いやられた21歳…
  • 1
    「コーヒーを吹き出すかと...」ディズニーランドの朝食が「高額すぎる」とSNSで大炎上、その「衝撃の値段」とは?
  • 2
    「あまりに愚か...」国立公園で注意を無視して「予測不能な大型動物」に近づく幼児連れ 「ショッキング」と映像が話題に
  • 3
    10歳少女がサメに襲われ、手をほぼ食いちぎられる事故...「緊迫の救護シーン」を警官が記録
  • 4
    JA・卸売業者が黒幕説は「完全な誤解」...進次郎の「…
  • 5
    ディズニー・クルーズラインで「子供が海に転落」...…
  • 6
    気温40℃、空港の「暑さ」も原因に?...元パイロット…
  • 7
    燃え盛るロシアの「黒海艦隊」...ウクライナの攻撃で…
  • 8
    「小麦はもう利益を生まない」アメリカで農家が次々…
  • 9
    イランを奇襲した米B2ステルス機の謎...搭乗した専門…
  • 10
    「うちの赤ちゃんは一人じゃない」母親がカメラ越し…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story