ディープフェイクの政治利用とその危険性：ビデオ会議のキーウ市長はデジタル合成だった

誰もが作れるディープフェイク

ストリヤロフは、コントラステに対して、それは通常のディープフェイクとは異なり、偽物は「ライト」だったと主張した。コントラステの評価は、人工知能を使用してコンピューターで生成されたクリチコの画像ではないという方向に結論づけられた。むしろ、画像要素はクリチコの古いインタビュー映像からコピーされ、再配置され、フェイクビデオには音声が合成されていると推測している。

アドビなどのソフトウェア会社は現在、あらゆる声を模倣できるプログラムに取り組んでいる。これを行うには、プログラムは特定の人からの約20分のオーディオ素材を入手するだけで済むという。アマゾンは、Alexa音声サービスのプロトタイプをすでに開発している。将来的には、亡くなった祖母の声で話すこともできるはずだ。これには祖母の1分間の既存の音声データがあれば、サービスを提供するのに十分なのだ。

ディープフェイクは、ディープラーニング(深層学習)とフェイクの合成語であり、これまでその作成には莫大な素材と計算量が必要だった。しかし、今やフリーのディープフェイク生成ソフトが何種類も出回り、その作成は特別な作業ではなくなっている。

対話者を確実に欺くために、ロシアのコメディアン・デュオは、サイバー攻撃のひとつであるソーシャル・エンジニアリングとして知られている手法を実行したと推測されている。人とその環境に関する既存の情報が収集され、たとえば、電子メールの送信者が巧妙に偽造されると、受信者は納得してしまう。

ストリヤロフによれば、その行動は政治的なものであってはならなかった。それにもかかわらず、コメディアンのデュオのターゲットは、ロシアに批判的な人々を対象としていることが判明した。6月初旬、モスクワでクズネツォフとストリヤロフが表彰された。ドイツ公共放送連盟によると、この賞は、戦争の最中にコメディアンのデュオを「電話外交の達人」と評したロシア外務省のスポークスマンによって授与されたのである。

ディープフェイクの懸念

私たちは皆、ディープフェイクの出現を予見している。しかし、私たちの集団生活の基本的な側面を混乱に陥れるという、その潜在的な可能性については、まだ真剣には考慮されていない。お気に入りの映画スターや歌手がディープフェイク・ポルノになり、戦争中の都市の市長がフェイクか否かを、他の都市のリーダーたちがわからないとしたら、私たちはめくるめく虚構の中に迷い込むことになる。

ディープフェイクのアルゴリズムを使えば、偽音声や偽動画を操作することができる。2018年、バラク・オバマが「トランプ大統領は完全なおバカ」と発言するのを見て、油断していた視聴者は驚愕した。米国のコメディアンであるジョーダン・ピールが作成したインターネット動画は大きな反響を呼んだ。人工知能（AI）を利用した技術により、コメディアンの発言が、元大統領の顔立ちや表情、声に移し替えられたのである。

詐欺師もすでにAIを使用している。たとえば、2019年には、英国のエネルギー会社で事件が起きた。同社のマネージングディレクターは、ドイツの親会社のCEOとされる人物から電話を受けた。電話で彼は特定の口座に約225,000ユーロ（約約3,144万円）を送金するよう依頼された。送金後、発信者の声がフェイクだったことが明らかになった。

画像、音声、映像などのコンテンツが、実在の人物、物、場所が、驚くほど本物らしく作られたり、操作されたりして、人に真実であると偽って見せることが、ディープフェイクである。ピールはこのビデオで真実を揺さぶり、現代で最も有名な人物の一人でさえ、その紛れもない特徴と身振りで、プロパガンダの道具として利用されうることを示し、この新しいテクノロジーの危険性に注意を促したかったのだ。