コラム

一田和樹 デジタル権威主義とネット世論操作

「これはフェイク？」親中派が月額30ドルのAI動画生成サービスでデジタル影響工作していた

2023年02月10日（金）17時45分

親中派のデジタル影響工作グループが、月額30ドルのAI動画生成サービスを使って作成したディープフェイクのニュース番組を配信していた...... YouTube-Synthesia

＜2022年の年末に親中派のデジタル影響工作グループが、AI動画生成サービスを使って作成したディープフェイクのニュース番組をSNSに投稿していた......＞

前回の記事で2023年はAI支援デジタル影響工作ツールが広く使われるようになると書いたが、さっそくそれを裏付けるような事実が暴露された。

2022年の年末に親中派のデジタル影響工作グループSpamouflage（Dragonbridgeと呼ばれることもある）が、月額30ドルのAI動画生成サービスを使って作成したディープフェイクのニュース番組「Wolf News」をフェイスブック、ツイッター、YouTubeに投稿していたのだ。

幸い、再生数はわずかだったが、ブルキナファソでも同じツールを利用したデジタル影響工作と思われる動画が発見されており、利便性の高いAI支援デジタル影響工作ツールの利用が広まっていることを示した。

中国共産党を支持する情報、アメリカを貶める情報を発信

今回、ディープフェイクを拡散しようとしていたSpamouflageは数年前から活動しているグループで、中国共産党を支持する情報やアメリカを貶める情報などを発信するデジタル影響工作を行っている。先月もグーグルが関連するアカウント5万件以上を削除している。

昨年のアメリカ中間選挙では積極的に活動していたことがサイバーセキュリティ企業マンディアント社によって、既存のニュース記事や調査レポートを改竄して、中国に都合のよい内容にして拡散していたことなどが暴かれている。たとえば中国由来のサイバー攻撃APT41をアメリカ由来に置き換えて拡散していた。

＞＞■■【動画】これは、フェイク？　Synthesia社のデモ動画

当初、専門家も俳優と間違え、日本語にも対応

ディープフェイク作成に使用されたサービスは、イギリスのSynthesia社のもので、個人使用なら月額30ドルで利用できる。メールを作成するくらいの手軽さで動画を作成できることができ、一般企業の人材育成や研修用の動画作成に利用されることが多いという。

このサービスは120カ国語（もちろん日本語にも対応）に対応し、性別、年齢、民族、声のトーン、ファッションなどが異なる85以上のアバターが用意されている。テンプレートは55以上もあり、パワーポイントからのインポートもできる。ありものでよければ使用するテキストを用意するだけで動画ができてしまう。スタジオで動かずにニュースを読み上げるだけなら数分でできる。動かないといっても自動的に口は動くし、まばたきもする。

安価で簡単にできる分、画像が粗かったり、口と音声がずれたりなど、不自然なところはあるが、ネットの動画ではありがちなことと気に留めない人も多いだろう。実際、調査に当たったグラフィカ社のチームは当初、人間の俳優を使用した動画と考えていたほどだ。

どのような動画が作れるかは実際に現物を見ていただくのが早いと思う。下記はSynthesia社自身のウェブにある紹介動画だ。

＞＞■■【動画】これは、フェイク？　Synthesia社のデモ動画

次のページ日本語のデモンストレーション動画もあった
プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』（集英社）、『天才ハッカー安部響子と五分間の相棒』（集英社）、『フェイクニュース　新しい戦略的戦争兵器』（角川新書）、『ネット世論操作とデジタル影響工作』（共著、原書房）など著作多数。X（旧ツイッター）。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所。

あわせて読みたい
ニュース速報

ワールド

イスラエルが軍事施設数十カ所攻撃、イランからもミサ
2025.06.20

ビジネス

欧州投資銀、融資枠1000億ユーロに拡大　防衛強化
2025.06.20

ワールド

ガザの水道システム崩壊、ユニセフが危機感　銃撃や空
2025.06.20

ビジネス

中国歳入、1─5月は前年比0.3％減　税収・土地売
2025.06.20
ニュース速報一覧
あわせて読みたい
MAGAZINE
特集：コメ高騰の真犯人
特集：コメ高騰の真犯人
2025年6月24日号（6/17発売）

なぜ米価は突然上がり、これからどうなるのか？ コメ高騰の原因と「犯人」を探る

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    「あまりに愚か...」国立公園で注意を無視して「予測不能な大型動物」に近づく幼児連れ　「ショッキング」と映像が話題に
  • 2
    JA・卸売業者が黒幕説は「完全な誤解」...進次郎の「過剰な20万トン」でコメの値段はこう変わる
  • 3
    妊娠8カ月の女性を襲ったワニ...妊婦が消えた川辺の「緊迫映像」
  • 4
    10歳少女がサメに襲われ、手をほぼ食いちぎられる事…
  • 5
    全ての生物は「光」を放っていることが判明...死ねば…
  • 6
    「うちの赤ちゃんは一人じゃない」母親がカメラ越し…
  • 7
    マスクが「時代遅れ」と呼んだ有人戦闘機F-35は、イ…
  • 8
    「巨大キノコ雲」が空を覆う瞬間...レウォトビ火山の…
  • 9
    「まさかの敗北」ロシアの消耗とプーチンの誤算...プ…
  • 10
    「アメリカにディズニー旅行」は夢のまた夢？...ディ…
  • 1
    「あまりに愚か...」国立公園で注意を無視して「予測不能な大型動物」に近づく幼児連れ　「ショッキング」と映像が話題に
  • 2
    気温40℃、空港の「暑さ」も原因に？...元パイロットが指摘する、墜落したインド航空機の問題点
  • 3
    10歳少女がサメに襲われ、手をほぼ食いちぎられる事故...「緊迫の救護シーン」を警官が記録
  • 4
    「うちの赤ちゃんは一人じゃない」母親がカメラ越し…
  • 5
    JA・卸売業者が黒幕説は「完全な誤解」...進次郎の「…
  • 6
    妊娠8カ月の女性を襲ったワニ...妊婦が消えた川辺の…
  • 7
    ブラッド・ピット新髪型を「かわいい」「史上最高に…
  • 8
    「タンパク質」より「食物繊維」がなぜ重要なのか？.…
  • 9
    イタリアにある欧州最大の活火山が10年ぶりの大噴火.…
  • 10
    「サイドミラー1つ作れない」レアアース危機･第3波で…
  • 1
    日本の「プラごみ」で揚げる豆腐が、重大な健康被害と環境汚染を引き起こしている
  • 2
    一瞬にして村全体が消えた...スイスのビルヒ氷河崩壊の瞬間を捉えた「恐怖の映像」に広がる波紋
  • 3
    庭にクマ出没、固唾を呑んで見守る家主、そして次の瞬間...「信じられない行動」にネット驚愕
  • 4
    大爆発で一瞬にして建物が粉々に...ウクライナ軍「Mi…
  • 5
    「ママ...！」2カ月ぶりの再会に駆け寄る13歳ラブラ…
  • 6
    あなたも当てはまる？ 顔に表れるサイコパス・ナルシ…
  • 7
    「あまりに愚か...」国立公園で注意を無視して「予測…
  • 8
    気温40℃、空港の「暑さ」も原因に？...元パイロット…
  • 9
    ドローン百機を一度に発射できる中国の世界初「ドロ…
  • 10
    猫に育てられたピットブルが「完全に猫化」...ネット…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story