コラム

2023年はAIが生成したフェイクニュースが巷にあふれる......インフォカリプス(情報の終焉)の到来

2023年01月19日(木)18時47分

ブラジル連邦議会は、ボルソナロ前大統領の支持者が侵入し破壊された(1月8日)......REUTERS/Ricardo MoraesREUTERS/Ricardo Moraes

<2023年はAIを利用したフェイクニュースやディープフェイク(AIによって生成された動画)がネットにあふれ 、情報の終焉(インフォカリプス)と呼ぶべき事態がせまっている......>

2020年にはほぼ実用段階に入っていた技術

2023年にはAIを利用したフェイクニュースやディープフェイク(AIによって生成された動画)がネットにあふれるという予測がある。

AIにおおまかな指示を与えるだけで、複数の人間になりまして、SNSへの投稿をおこない、反応があれば自律的に応答してくれる。必要があればマニフェストや長文の記事も作るし、そのための著名人の登場する偽の画像や動画も用意できる。たとえば習近平の台湾軍事侵攻発表のスピーチ動画を生成し、記事ととともに拡散させることもできる。

言語AI「GPT-3」などはすでに陰謀論や人種差別あるいは反ワクチンといった反主流ナラティブを熟知しているので、Qアノンの陰謀論を利用して特定の政党を貶めるようなサイトのコンテンツ(自動生成した画像や偽の証拠動画つき)の生成はお手のものだ。

疲れを知らず24時間365日、大量の情報を発信し、必要に応じて画像や動画をアップロードし、反応に迅速に応答する。そして誹謗中傷にあっても決して心が折れることがなく、一貫性があり、相手の発言を忘れない。無敵だ。

2020年の段階でこれらのすべてをほとんどお金をかけずに個人でも実行できるようになっていた。たとえば2019年にサイバーセキュリティ会社FireEyeの大学院生のインターンがAIを3カ月訓練して2016年のアメリカ大統領選でロシアがおこなったのと同等のデジタル影響工作をおこなえるようにしている。

2020年にはGPT-3を使ったボットが大手SNS、Redditに投稿と反応への返信をおこなったが、人間ではないと気づかれずに1週間活動できた。1分間に1回投稿していていたというから、デジタル影響工作に利用された時のインパクトは大きそうだ。

一部の識者は2020年のアメリカ大統領選でディープフェイクが猛威を振るうと予測したが、時代はまだ技術に追いついていなかったようだ。3年経って、これらのAIはより使いやすく手軽になった。2023年はAI支援デジタル影響工作が本格的に猛威をふるい出すと言われている。

その手軽さゆえに国家だけではなく、金目当ての企業、犯罪者、個人が使い出すのだ。AIを使ったネット世論操作=AI支援デジタル影響工作ツールは戦術核の威力を持った火炎ビンのようなもので、その利用は「情報テロ」とでもいうものだ。本稿の情報の出典については拙noteでご紹介している。

インフォカリプス(情報の終焉)の到来

しかし、こうした研究や警告があったものの、AI支援デジタル影響工作の危険性は一部に知られるに留まっていた。AIによって職が奪われたり、自律型兵器が開発される危惧に関する記事を見かけることはあっても、AI支援デジタル影響工作ツールについての記事はあまりなかった。
しかし、失職や兵器に比べると直接的な被害は少ないものの、社会を分断し、メディアや情報への信頼が失われ、「インフォカリプス:インフォメーション+アポカリプス(黙示録)」をもたらす。インフォカリプスはミシガン大学の研究者アビーブ・オバディアの造語で、大量の偽情報があふれ、もはや情報の真偽を見分けることすらあきらめてしまう状態を指す。

すでにさまざまな調査でニュース忌避やニュースを信頼性ではなく利便性(タイパ)で選択する傾向が見られるようになっており、インフォカリプスはすぐそこにある未来だ。最後の一押しで世界をインフォカリプスに突き落とすのがAI支援デジタル影響工作の可能性が高い。

プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』(集英社)『天才ハッカー安部響子と五分間の相棒』(集英社)『フェイクニュース 新しい戦略的戦争兵器』(角川新書)『ウクライナ侵攻と情報戦』(扶桑社新書)など著作多数。X(旧ツイッター)

今、あなたにオススメ
ニュース速報

ワールド

イスラエル軍、イエメンのフーシ派拠点空爆 テルアビ

ビジネス

決算本格化へ、23日はテスラとアルファベット=今週

ワールド

アングル:気候変動と農地拡大、アマゾン地域に迫る「

ビジネス

アングル:欧州高級ブランド、中国消費低迷で年後半も
今、あなたにオススメ
MAGAZINE
特集:まだまだ日本人が知らない 世界のニュース50
特集:まだまだ日本人が知らない 世界のニュース50
2024年7月16日/2024年7月23日号(7/ 9発売)

日本の報道が伝えない世界の仰天事実。世界の今が見えるニュースクイズ50

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    ブータン国王一家のモンゴル休暇が「私服姿で珍しい」と話題に
  • 2
    森に潜んだロシア部隊を発見、HIMARS精密攻撃で大爆発...死者60人以上の攻撃「映像」ウクライナ公開
  • 3
    出産間近!ヨルダン・ラジワ皇太子妃が「ロングワンピース姿」で公務へ
  • 4
    「別人...」ウィル・スミスと一緒に写るジョニー・デ…
  • 5
    屋外に集合したロシア兵たちを「狙い撃ち」...HIMARS…
  • 6
    メーガン妃の「狂気的なオーラ」が注目を集める...そ…
  • 7
    ロシア防空ミサイルが「ドローン迎撃」に失敗...直後…
  • 8
    ウクライナ軍ブラッドレー歩兵戦闘車の強力な射撃を…
  • 9
    世界で最も美しいAIが決定...初代「ミスAI」はモロッ…
  • 10
    ロシア兵がウクライナ「ATACMS」ミサイルの直撃を受…
  • 1
    ブータン国王一家のモンゴル休暇が「私服姿で珍しい」と話題に
  • 2
    ウクライナ南部ヘルソン、「ロシア軍陣地」を襲った猛烈な「森林火災」の炎...逃げ惑う兵士たちの映像
  • 3
    「どちらが王妃?」...カミラ王妃の妹が「そっくり過ぎ」で話題に
  • 4
    出産間近!ヨルダン・ラジワ皇太子妃が「ロングワンピ…
  • 5
    トランプが銃撃を語る電話音声が流出「バイデンは親…
  • 6
    ミサイル迎撃の「劇的瞬間」と祝福の雄叫び...「普段…
  • 7
    AI生成の「ネコ顔の花」に騙される人が続出!? ニ…
  • 8
    着陸する瞬間の旅客機を襲った「後方乱気流」...突然…
  • 9
    韓国でLINEユーザーが急増した理由 日本への反発?
  • 10
    森に潜んだロシア部隊を発見、HIMARS精密攻撃で大爆…
  • 1
    中国を捨てる富裕層が世界一で過去最多、3位はインド、意外な2位は?
  • 2
    ウクライナ南部ヘルソン、「ロシア軍陣地」を襲った猛烈な「森林火災」の炎...逃げ惑う兵士たちの映像
  • 3
    ウクライナ水上ドローン、ロシア国内の「黒海艦隊」基地に突撃...猛烈な「迎撃」受ける緊迫「海戦」映像
  • 4
    韓国が「佐渡の金山」の世界遺産登録に騒がない訳
  • 5
    ブータン国王一家のモンゴル休暇が「私服姿で珍しい…
  • 6
    メーガン妃が「王妃」として描かれる...波紋を呼ぶ「…
  • 7
    「どちらが王妃?」...カミラ王妃の妹が「そっくり過…
  • 8
    携帯契約での「読み取り義務化」は、マイナンバーカ…
  • 9
    爆破され「瓦礫」と化したロシア国内のドローン基地.…
  • 10
    ルイ王子の「お行儀の悪さ」の原因は「砂糖」だった.…
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story