コラム

一田和樹 デジタル権威主義とネット世論操作

「これはフェイク？」親中派が月額30ドルのAI動画生成サービスでデジタル影響工作していた

2023年02月10日（金）17時45分

親中派のデジタル影響工作グループが、月額30ドルのAI動画生成サービスを使って作成したディープフェイクのニュース番組を配信していた...... YouTube-Synthesia

＜2022年の年末に親中派のデジタル影響工作グループが、AI動画生成サービスを使って作成したディープフェイクのニュース番組をSNSに投稿していた......＞

前回の記事で2023年はAI支援デジタル影響工作ツールが広く使われるようになると書いたが、さっそくそれを裏付けるような事実が暴露された。

2022年の年末に親中派のデジタル影響工作グループSpamouflage（Dragonbridgeと呼ばれることもある）が、月額30ドルのAI動画生成サービスを使って作成したディープフェイクのニュース番組「Wolf News」をフェイスブック、ツイッター、YouTubeに投稿していたのだ。

幸い、再生数はわずかだったが、ブルキナファソでも同じツールを利用したデジタル影響工作と思われる動画が発見されており、利便性の高いAI支援デジタル影響工作ツールの利用が広まっていることを示した。

中国共産党を支持する情報、アメリカを貶める情報を発信

今回、ディープフェイクを拡散しようとしていたSpamouflageは数年前から活動しているグループで、中国共産党を支持する情報やアメリカを貶める情報などを発信するデジタル影響工作を行っている。先月もグーグルが関連するアカウント5万件以上を削除している。

昨年のアメリカ中間選挙では積極的に活動していたことがサイバーセキュリティ企業マンディアント社によって、既存のニュース記事や調査レポートを改竄して、中国に都合のよい内容にして拡散していたことなどが暴かれている。たとえば中国由来のサイバー攻撃APT41をアメリカ由来に置き換えて拡散していた。

＞＞■■【動画】これは、フェイク？　Synthesia社のデモ動画

当初、専門家も俳優と間違え、日本語にも対応

ディープフェイク作成に使用されたサービスは、イギリスのSynthesia社のもので、個人使用なら月額30ドルで利用できる。メールを作成するくらいの手軽さで動画を作成できることができ、一般企業の人材育成や研修用の動画作成に利用されることが多いという。

このサービスは120カ国語（もちろん日本語にも対応）に対応し、性別、年齢、民族、声のトーン、ファッションなどが異なる85以上のアバターが用意されている。テンプレートは55以上もあり、パワーポイントからのインポートもできる。ありものでよければ使用するテキストを用意するだけで動画ができてしまう。スタジオで動かずにニュースを読み上げるだけなら数分でできる。動かないといっても自動的に口は動くし、まばたきもする。

安価で簡単にできる分、画像が粗かったり、口と音声がずれたりなど、不自然なところはあるが、ネットの動画ではありがちなことと気に留めない人も多いだろう。実際、調査に当たったグラフィカ社のチームは当初、人間の俳優を使用した動画と考えていたほどだ。

どのような動画が作れるかは実際に現物を見ていただくのが早いと思う。下記はSynthesia社自身のウェブにある紹介動画だ。

＞＞■■【動画】これは、フェイク？　Synthesia社のデモ動画

次のページ日本語のデモンストレーション動画もあった
プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』（集英社）、『天才ハッカー安部響子と五分間の相棒』（集英社）、『フェイクニュース　新しい戦略的戦争兵器』（角川新書）、『ネット世論操作とデジタル影響工作』（共著、原書房）など著作多数。X（旧ツイッター）。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所。

あわせて読みたい
ニュース速報

ビジネス

台湾ヤゲオ、日本政府から外為法上の承認を取得　芝浦
2025.09.03

ワールド

北朝鮮金総書記が北京到着、娘「ジュエ」氏同行　中ロ
2025.09.02

ビジネス

米国株式市場・寄り付き＝Ｓ＆Ｐ・ナスダック1％超安
2025.09.02

ビジネス

住友商や三井住友系など4社、米航空機リースを1兆円
2025.09.02
ニュース速報一覧
あわせて読みたい
MAGAZINE
特集：豪ワーホリ残酷物語
特集：豪ワーホリ残酷物語
2025年9月 9日号（9/ 2発売）

円安の日本から「出稼ぎ」に行く時代──オーストラリアで搾取される若者たちの実態は

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    「怖すぎる」「速く走って！」夜中に一人ランニングをする女性、異変を感じ、背後に「見えたモノ」にSNS震撼
  • 2
    50歳を過ぎても運動を続けるためには？...「動ける体」をつくる4つの食事ポイント
  • 3
    東北で大腸がんが多いのはなぜか――秋田県で死亡率が下がった「意外な理由」
  • 4
    上から下まで何も隠さず、全身「横から丸見え」...シ…
  • 5
    日本の「プラごみ」で揚げる豆腐が、重大な健康被害…
  • 6
    トレーニング継続率は7倍に...運動を「サボりたい」…
  • 7
    トランプ関税2審も違法判断、　「自爆災害」とクルー…
  • 8
    「人類初のパンデミック」の謎がついに解明...1500年…
  • 9
    1日「5分」の習慣が「10年」先のあなたを守る――「動…
  • 10
    世界でも珍しい「日本の水泳授業」、消滅の危機にあ…
  • 1
    東北で大腸がんが多いのはなぜか――秋田県で死亡率が下がった「意外な理由」
  • 2
    1日「5分」の習慣が「10年」先のあなたを守る――「動ける体」をつくる、エキセントリック運動【note限定公開記事】
  • 3
    信じられない...「洗濯物を干しておいて」夫に頼んだ女性が目にした光景が「酷すぎる」とSNS震撼、大論争に
  • 4
    50歳を過ぎても運動を続けるためには？...「動ける体…
  • 5
    25年以内に「がん」を上回る死因に...「スーパーバグ…
  • 6
    豊かさに溺れ、非生産的で野心のない国へ...「世界が…
  • 7
    日本の「プラごみ」で揚げる豆腐が、重大な健康被害…
  • 8
    首を制する者が、筋トレを制す...見た目もパフォーマ…
  • 9
    「人類初のパンデミック」の謎がついに解明...1500年…
  • 10
    上から下まで何も隠さず、全身「横から丸見え」...シ…
  • 1
    こんな症状が出たら「メンタル赤信号」...心療内科医が伝授、「働くための」心とカラダの守り方とは？
  • 2
    「自律神経を強化し、脂肪燃焼を促進する」子供も大人も大好きな5つの食べ物
  • 3
    デカすぎ...母親の骨盤を砕いて生まれてきた「超巨大ベビー」の姿にSNS震撼「ほぼ幼児では？」
  • 4
    デンマークの動物園、飼えなくなったペットの寄付を…
  • 5
    「まさかの真犯人」にネット爆笑...大家から再三「果…
  • 6
    信じられない...「洗濯物を干しておいて」夫に頼んだ…
  • 7
    山道で鉢合わせ、超至近距離に3頭...ハイイログマの…
  • 8
    「レプトスピラ症」が大規模流行中...ヒトやペットに…
  • 9
    「あなた誰？」保育園から帰ってきた3歳の娘が「別人…
  • 10
    将来ADHDを発症する「幼少期の兆候」が明らかに？...…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story