「これはフェイク？」親中派が月額30ドルのAI動画生成サービスでデジタル影響工作していた

日本語のデモンストレーション動画もあった。日本語話者に見えない人物にしゃべらせているのは同社のサービスでは自由にアバターと音声を組み合わせることができるのを見せたかったのかもしれない。

＞＞■■【動画】日本語のデモはこちらから

Synthesia社はヘイトスピーチ、誹謗中傷、偽情報などの問題となる内容を含む動画の作成を禁止しており、そのためのチェックを行っている。しかし、偽情報を検知するのは困難であり、今回の動画に関しても事前に検知するのは難しいとしている。

ニューヨーク・タイムズの取材を受けたグラフィカ社副社長は、この事件についてこう語った。

「われわれが目にしているのは、来るべき時代の前兆なのだ」

今後、Synthesia社のような動画生成サービスが増加し、もしかしたらマイクロソフト社がパワーポイントを動画まで作成できるようにするかもしれない。それらすべてが、ディープフェイクの大量生産装置となる。国際政治学者のイアン・ブレマーは、AI支援デジタル影響工作ツールを「大混乱生成兵器」と呼んだ。

しばらくは今回のような小規模で成果のあがらない実験レベルの利用が続くだろうが、その後は加速度的に成果が上がるようになり、利用件数も急増し、インフォカリプス（インフォメーション＋アポカリプス＝黙示録）の時代の到来となる。そうならないようにするための時間は限られている。