2023年はAIが生成したフェイクニュースが巷にあふれる......インフォカリプス(情報の終焉)の到来

ブラジル連邦議会は、ボルソナロ前大統領の支持者が侵入し破壊された（1月8日）......REUTERS/Ricardo MoraesREUTERS/Ricardo Moraes

＜2023年はAIを利用したフェイクニュースやディープフェイク（AIによって生成された動画）がネットにあふれ 、情報の終焉（インフォカリプス）と呼ぶべき事態がせまっている......＞

2020年にはほぼ実用段階に入っていた技術

2023年にはAIを利用したフェイクニュースやディープフェイク（AIによって生成された動画）がネットにあふれるという予測がある。

AIにおおまかな指示を与えるだけで、複数の人間になりまして、SNSへの投稿をおこない、反応があれば自律的に応答してくれる。必要があればマニフェストや長文の記事も作るし、そのための著名人の登場する偽の画像や動画も用意できる。たとえば習近平の台湾軍事侵攻発表のスピーチ動画を生成し、記事ととともに拡散させることもできる。

言語AI「GPT-3」などはすでに陰謀論や人種差別あるいは反ワクチンといった反主流ナラティブを熟知しているので、Qアノンの陰謀論を利用して特定の政党を貶めるようなサイトのコンテンツ（自動生成した画像や偽の証拠動画つき）の生成はお手のものだ。

疲れを知らず24時間365日、大量の情報を発信し、必要に応じて画像や動画をアップロードし、反応に迅速に応答する。そして誹謗中傷にあっても決して心が折れることがなく、一貫性があり、相手の発言を忘れない。無敵だ。

2020年の段階でこれらのすべてをほとんどお金をかけずに個人でも実行できるようになっていた。たとえば2019年にサイバーセキュリティ会社FireEyeの大学院生のインターンがAIを3カ月訓練して2016年のアメリカ大統領選でロシアがおこなったのと同等のデジタル影響工作をおこなえるようにしている。

2020年にはGPT-3を使ったボットが大手SNS、Redditに投稿と反応への返信をおこなったが、人間ではないと気づかれずに1週間活動できた。1分間に1回投稿していていたというから、デジタル影響工作に利用された時のインパクトは大きそうだ。

一部の識者は2020年のアメリカ大統領選でディープフェイクが猛威を振るうと予測したが、時代はまだ技術に追いついていなかったようだ。3年経って、これらのAIはより使いやすく手軽になった。2023年はAI支援デジタル影響工作が本格的に猛威をふるい出すと言われている。

その手軽さゆえに国家だけではなく、金目当ての企業、犯罪者、個人が使い出すのだ。AIを使ったネット世論操作＝AI支援デジタル影響工作ツールは戦術核の威力を持った火炎ビンのようなもので、その利用は「情報テロ」とでもいうものだ。本稿の情報の出典については拙noteでご紹介している。

インフォカリプス（情報の終焉）の到来

しかし、こうした研究や警告があったものの、AI支援デジタル影響工作の危険性は一部に知られるに留まっていた。AIによって職が奪われたり、自律型兵器が開発される危惧に関する記事を見かけることはあっても、AI支援デジタル影響工作ツールについての記事はあまりなかった。
しかし、失職や兵器に比べると直接的な被害は少ないものの、社会を分断し、メディアや情報への信頼が失われ、「インフォカリプス：インフォメーション＋アポカリプス（黙示録）」をもたらす。インフォカリプスはミシガン大学の研究者アビーブ・オバディアの造語で、大量の偽情報があふれ、もはや情報の真偽を見分けることすらあきらめてしまう状態を指す。

すでにさまざまな調査でニュース忌避やニュースを信頼性ではなく利便性（タイパ）で選択する傾向が見られるようになっており、インフォカリプスはすぐそこにある未来だ。最後の一押しで世界をインフォカリプスに突き落とすのがAI支援デジタル影響工作の可能性が高い。