コラム

一田和樹 デジタル権威主義とネット世論操作

2023年はAIが生成したフェイクニュースが巷にあふれる......インフォカリプス(情報の終焉)の到来

2023年01月19日（木）18時47分

インフォカリプスが進行することによって、制度や政府に対する信頼が低下し、社会は不安定になる。その結果、陰謀論や極右、あるいは白人至上主義を信じた人々の過激な行動が発生しやすくなる。2021年のアメリカ連邦議事堂襲撃事件、2022年のドイツのクーデター未遂事件、2023年のブラジルの連邦議事堂等襲撃事件は序章でしかない。

また、選挙への影響も甚大だ。すでに世界各国の選挙でデマや偽情報が飛び交うようになっており、先の事件が起きた国々では選挙に陰謀論などを信奉する候補者が登場、当選している。

さらにAI支援デジタル影響工作は通常のAI利用において起こる致命的な問題を克服していることも見逃せない。AIはまちがえることもあるし、倫理的に許容できない判断をすることもある。通常は人間が確認して補正しなければならない。しかし、デジタル影響工作に用いる限りにおいては、これらは許容される。多くのデジタル影響工作の目的は、分断と混乱を引き起こすことなのだから問題にならないのだ。

誤りと倫理的課題への対処が不要というのは既存のメディアに対して圧倒的に有利である。メディア業界では急速にAIの利用が進んでいる。たとえばAP通信は2014年に企業の決算報告書を自動生成し始め、1年でわずか300社から4,000社に取材範囲を拡大している。自動生成記事は人間の記事よりも誤りが少なく、休む必要がない。ただし、とんでもない間違いをしでかすこともあるので人間のチェックが不可欠となっている。

AI支援デジタル影響工作によって生み出させる動画や記事に比べると、確認の工程が必要な一般メディアの記事はコストも時間も余分にかかってしまうのだ。ファクトチェックはさらに時間がかかるため、AI支援デジタル影響工作に対してファクトチェックで対抗するのは、バケツで海の水をすくえば海は干上がると信じるようなものだ。

現状のデジタル影響工作でも対処が難しいのに、AI支援デジタル影響工作でより本物らしいコンテンツが大量生産されるようになることは本格的なインフォカリプス時代の到来を招くだろう。

これから起こること

当面起こるのは、自動生成コンテンツの急増である。

・AI支援デジタル影響工作ツールによって生み出されたディープフェイクがYouTubeなどの動画サイトにあふれる。政治家や俳優などの著名人を登場させる動画、あるいは知名度の高いメディア（BBCやCNN、NYTなど）を模倣、利用したものが多くなる。また、事件やイベントなどを捏造した動画も多数出回るだろう。

・一見まっとうに見えるが、AI支援デジタル影響工作ツールによって生成されたコンテンツだけでできているニュースサイトやまとめサイトが増加する。さまざまなニュースをまとめて記事にするAIはすでに実用化されおり、まっとうなニュースの要約と陰謀論などを混在させて信頼させやすくするサイトを作れる。そして、サイト同士で相互に参照し合うことによって信憑性を高めるメディア・ミラージュ（蜃気楼）も増加する。一般的なメディア・リテラシーは複数の情報源で確認することを推奨しているのでこのメディア・ミラージュは効果がある。

・人間になりすましたAIボットがSNSにまぎれこんで、投稿や応答をおこなう。投稿にあたっては上記のサイトや動画を参照するようになり、主張の根拠に利用することでメディア・ミラージュ効果を高められる。

さらにその次に起こるのは、次のようなことだ。

次のページデジタル影響工作請負企業での利用
プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』（集英社）、『天才ハッカー安部響子と五分間の相棒』（集英社）、『フェイクニュース　新しい戦略的戦争兵器』（角川新書）、『ネット世論操作とデジタル影響工作』（共著、原書房）など著作多数。X（旧ツイッター）。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所。

あわせて読みたい
ニュース速報

ワールド

ルーブル美術館強盗、仏国内で批判　政府が警備巡り緊
2025.10.20

ビジネス

米韓の通貨スワップ協議せず、貿易合意に不適切＝韓国
2025.10.20

ワールド

自民と維新、連立政権樹立で正式合意　あす「高市首相
2025.10.20

ワールド

プーチン氏のハンガリー訪問、好ましくない＝ＥＵ外相
2025.10.20
ニュース速報一覧
あわせて読みたい
MAGAZINE
特集：日本人と参政党
特集：日本人と参政党
2025年10月21日号（10/15発売）

怒れる日本が生んだ「日本人ファースト」と参政党現象。その源泉にルポと神谷代表インタビューで迫る

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    1000人以上の女性と関係...英アンドルー王子、「称号返上を表明」も消えない生々しすぎる「罪状」
  • 2
    【クイズ】日本でツキノワグマの出没件数が「最も多い県」はどこ？
  • 3
    【クイズ】ヒグマの生息数が「世界で最も多い国」はどこ？
  • 4
    本当は「不健康な朝食」だった...専門家が警告する「…
  • 5
    今年、記録的な数の「中国の飲食店」が進出した国
  • 6
    ニッポン停滞の証か...トヨタの賭ける「未来」が関心…
  • 7
    ギザギザした「不思議な形の耳」をした男性...「みん…
  • 8
    【インタビュー】参政党・神谷代表が「必ず起こる」…
  • 9
    「認知のゆがみ」とは何なのか...あなたはどのタイプ…
  • 10
    「中国は危険」から「中国かっこいい」へ──ベトナム…
  • 1
    1000人以上の女性と関係...英アンドルー王子、「称号返上を表明」も消えない生々しすぎる「罪状」
  • 2
    お腹の脂肪を減らす「8つのヒント」とは？...食事以外の「2つの隠れた要因」が代謝を狂わせていた
  • 3
    【クイズ】日本でツキノワグマの出没件数が「最も多い県」はどこ？
  • 4
    まるで『トップガン』...わずか10mの至近戦、東シナ…
  • 5
    フィリピンで相次ぐ大地震...日本ではあまり報道され…
  • 6
    中国人が便利な「調理済み食品」を嫌うトホホな理由…
  • 7
    【クイズ】ヒグマの生息数が「世界で最も多い国」は…
  • 8
    日本で外国人から生まれた子どもが過去最多に──人口…
  • 9
    本当は「不健康な朝食」だった...専門家が警告する「…
  • 10
    「心の知能指数（EQ）」とは何か...「EQが高い人」に…
  • 1
    かばんの中身を見れば一発でわかる！「認知症になりやすい人」が持ち歩く5つのアイテム
  • 2
    「大谷翔平の唯一の欠点は...」ドジャース・ロバーツ監督が明かすプレーオフ戦略、監督の意外な「日本的な一面」とは？
  • 3
    カミラ王妃のキャサリン妃への「いら立ち」が話題に...「少々、お控えくださって？」
  • 4
    増加する「子どもを外注」する親たち...ネオ・ネグレ…
  • 5
    悲しみで8年間「羽をむしり続けた」オウム...新たな…
  • 6
    1000人以上の女性と関係...英アンドルー王子、「称号…
  • 7
    バフェット指数が異常値──アメリカ株に「数世代で最…
  • 8
    「日本の高齢化率は世界2位」→ダントツの1位は超意外…
  • 9
    お腹の脂肪を減らす「8つのヒント」とは？...食事以…
  • 10
    【クイズ】日本人が唯一「受賞していない」ノーベル…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story