コラム

「これはフェイク?」親中派が月額30ドルのAI動画生成サービスでデジタル影響工作していた

2023年02月10日(金)17時45分

親中派のデジタル影響工作グループが、月額30ドルのAI動画生成サービスを使って作成したディープフェイクのニュース番組を配信していた...... YouTube-Synthesia

<2022年の年末に親中派のデジタル影響工作グループが、AI動画生成サービスを使って作成したディープフェイクのニュース番組をSNSに投稿していた......>

前回の記事で2023年はAI支援デジタル影響工作ツールが広く使われるようになると書いたが、さっそくそれを裏付けるような事実が暴露された。

2022年の年末に親中派のデジタル影響工作グループSpamouflage(Dragonbridgeと呼ばれることもある)が、月額30ドルのAI動画生成サービスを使って作成したディープフェイクのニュース番組「Wolf News」をフェイスブック、ツイッター、YouTubeに投稿していたのだ。

幸い、再生数はわずかだったが、ブルキナファソでも同じツールを利用したデジタル影響工作と思われる動画が発見されており、利便性の高いAI支援デジタル影響工作ツールの利用が広まっていることを示した。

中国共産党を支持する情報、アメリカを貶める情報を発信

今回、ディープフェイクを拡散しようとしていたSpamouflageは数年前から活動しているグループで、中国共産党を支持する情報やアメリカを貶める情報などを発信するデジタル影響工作を行っている。先月もグーグルが関連するアカウント5万件以上を削除している。

昨年のアメリカ中間選挙では積極的に活動していたことがサイバーセキュリティ企業マンディアント社によって、既存のニュース記事や調査レポートを改竄して、中国に都合のよい内容にして拡散していたことなどが暴かれている。たとえば中国由来のサイバー攻撃APT41をアメリカ由来に置き換えて拡散していた。

>>■■【動画】これは、フェイク? Synthesia社のデモ動画

当初、専門家も俳優と間違え、日本語にも対応

ディープフェイク作成に使用されたサービスは、イギリスのSynthesia社のもので、個人使用なら月額30ドルで利用できる。メールを作成するくらいの手軽さで動画を作成できることができ、一般企業の人材育成や研修用の動画作成に利用されることが多いという。

このサービスは120カ国語(もちろん日本語にも対応)に対応し、性別、年齢、民族、声のトーン、ファッションなどが異なる85以上のアバターが用意されている。テンプレートは55以上もあり、パワーポイントからのインポートもできる。ありものでよければ使用するテキストを用意するだけで動画ができてしまう。スタジオで動かずにニュースを読み上げるだけなら数分でできる。動かないといっても自動的に口は動くし、まばたきもする。

安価で簡単にできる分、画像が粗かったり、口と音声がずれたりなど、不自然なところはあるが、ネットの動画ではありがちなことと気に留めない人も多いだろう。実際、調査に当たったグラフィカ社のチームは当初、人間の俳優を使用した動画と考えていたほどだ。

どのような動画が作れるかは実際に現物を見ていただくのが早いと思う。下記はSynthesia社自身のウェブにある紹介動画だ。

>>■■【動画】これは、フェイク? Synthesia社のデモ動画

プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』(集英社)『天才ハッカー安部響子と五分間の相棒』(集英社)『フェイクニュース 新しい戦略的戦争兵器』(角川新書)『ウクライナ侵攻と情報戦』(扶桑社新書)など著作多数。ツイッター

教育

欧米学生向けの闇代筆バイトに従事するケニアの若者、ChatGPTに駆逐されるか?

2023年6月5日(月)13時01分
鉄塔と高速道路

数学の学位を身につけたランガットさん(30歳)は7年前、ケニアの中級レベルの大学を卒業した後、統計関連の仕事に就きたいと願っていた。だが、計画通りには進まなかった。ナイロビ市内で7日撮影(2023年 ロイター/Thomas Mukoya)

数学の学位を身につけたランガットさん(30歳)は7年前、ケニアの中級レベルの大学を卒業した後、統計関連の仕事に就きたいと願っていた。だが、計画通りには進まなかった。

本文を読む
テクノロジー

ChatGPTなどの生成AIブームと米大統領選 ディープフェイクにどう対処すべきか

2023年6月2日(金)10時25分
俳優の顔にワイヤーフレームがかけられた画像

2024年米大統領選挙戦へようこそ。ここでは「現実」をでっちあげ放題だ。写真はディープフェイク動画作成のため、俳優の顔にワイヤーフレームがかけられた様子。ロンドンで2019年2月撮影(2023年 ロイター)

「私、実はロン・デサンティス氏が大好きで」。あろうことか、共和党の大統領指名獲得争いに出馬したフロリダ州知事を支持していると暴露する民主党のヒラリー・クリントン元米国務長官。「この国が必要としているのは正に彼のような人。本気でそう思います」──。

本文を読む
AI

ChatGPTにはまねできない? 今、学生に求められる「最も重要な力」とは

LEARNING TO LOVE CHATGPT

2023年5月31日(水)13時10分
サム・ポトリッキオ(ジョージタウン大学教授、本誌コラムニスト)
大学の講義

教授が知識を伝達する従来の講義だけではAI時代の学生の知的能力を伸ばせない YUROLAITSALBERT/ISTOCK

<不正行為に対処しつつ積極的に授業に活用すれば、的確な問いを立て、AIを使いこなす新時代の人材を育成できる>

本文を読む
SNS

TikTok、AI自動対話機能「タコ」をフィリピンで試験 ユーザーが最適な動画を見つけるのを支援

2023年5月26日(金)11時16分
TikTokのロゴ

中国系動画共有アプリTikTok(ティックトック)の運営会社は25日、人工知能(AI)を利用した自動対話プログラム(チャットボット)「Tako(タコ)」の試験をフィリピンの特定のユーザーを対象に実施していると発表した。写真は、TikTokのロゴ。2020年1月6日に撮影。(2023年 ロイター/Dado Ruvic)

中国系動画共有アプリTikTok(ティックトック)の運営会社は25日、人工知能(AI)を利用した自動対話プログラム(チャットボット)「Tako(タコ)」の試験をフィリピンの特定のユーザーを対象に実施していると発表した。

本文を読む
AI

AI画像が世界的コンテストで入賞...作者が気付いた、人間としてのアーティストの重要性

“I Won With AI Photos”

2023年5月25日(木)12時50分
ボリス・エルダグセン(写真メディアアーティスト)
ボリス・エルダグセン

ボリス・エルダグセン REUTERS/Fabrizio Bensch

<AIを使ったアート制作の「監督」は人間であり唯一無二の存在である私だ>

本文を読む

ニュース速報

ワールド

ローマ教皇の手術は成功、回復後は活動に制限なし

ビジネス

ECB、高インフレ継続なら7月以降に追加利上げも=

ワールド

ダム破壊は「野蛮な」戦争犯罪、プーチン氏がウクライ

ビジネス

米貿易赤字、4月は23%増の746億ドル 約8年ぶ

MAGAZINE

特集:最新予測 米大統領選

2023年6月13日号(6/ 6発売)

トランプ、デサンティス、ペンス......名乗りを上げる共和党候補。超高齢の現職バイデンは2024年に勝てるのか

メールマガジンのご登録はこちらから。

人気ランキング

  • 1

    「中で何かが動いてる」と母 耳の穴からまさかの生き物が這い出てくる瞬間

  • 2

    性行為の欧州選手権が開催決定...ライブ配信も予定...ネット震撼

  • 3

    ワグネルは撤収と見せかけてクーデーターの機会を狙っている──元ロシア軍情報部門将校 

  • 4

    自社株買いでストップ高!「日本株」の評価が変わり…

  • 5

    元米駆逐艦長が「心臓が止まるかと」思ったほど危機…

  • 6

    メーガン妃が「絶対に誰にも見られたくなかった写真…

  • 7

    「ダライ・ラマは小児性愛者」 中国が流した「偽情報…

  • 8

    プーチンは体の病気ではなく心の病気?──元警護官が…

  • 9

    マーサ・スチュワート、水着姿で表紙を飾ったことを…

  • 10

    ワグネルに代わってカディロフツィがロシアの主力に…

  • 1

    ロシアの「竜の歯」、ウクライナ「反転攻勢」を阻止できず...チャレンジャー2戦車があっさり突破する映像を公開

  • 2

    「中で何かが動いてる」と母 耳の穴からまさかの生き物が這い出てくる瞬間

  • 3

    「日本ネット企業の雄」だった楽天は、なぜここまで追い込まれた? 迫る「決断の日」

  • 4

    米軍、日本企業にTNT火薬の調達を打診 ウクライナ向…

  • 5

    「ダライ・ラマは小児性愛者」 中国が流した「偽情報…

  • 6

    敗訴ヘンリー王子、巨額「裁判費用」の悪夢...最大20…

  • 7

    【ヨルダン王室】世界がうっとり、ラジワ皇太子妃の…

  • 8

    【画像・閲覧注意】ワニ40匹に襲われた男、噛みちぎ…

  • 9

    どんぶりを余裕で覆う14本足の巨大甲殻類、台北のラ…

  • 10

    ウクライナ側からの越境攻撃を撃退「装甲車4台破壊、戦…

  • 1

    【画像・閲覧注意】ワニ40匹に襲われた男、噛みちぎられて死亡...血まみれの現場

  • 2

    世界がくぎづけとなった、アン王女の麗人ぶり

  • 3

    カミラ妃の王冠から特大ダイヤが外されたことに、「触れてほしくない」理由とは?

  • 4

    「ぼったくり」「家族を連れていけない」わずか1年半…

  • 5

    F-16がロシアをビビらせる2つの理由──元英空軍司令官

  • 6

    築130年の住宅に引っ越したTikToker夫婦、3つの「隠…

  • 7

    歩きやすさ重視? カンヌ映画祭出席の米人気女優、…

  • 8

    「飼い主が許せない」「撮影せずに助けるべき...」巨…

  • 9

    預け荷物からヘビ22匹と1匹の...旅客、到着先の空港…

  • 10

    キャサリン妃が戴冠式で義理の母に捧げた「ささやか…

日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story