コラム

2023年はAIが生成したフェイクニュースが巷にあふれる......インフォカリプス(情報の終焉)の到来

2023年01月19日(木)18時47分

ブラジル連邦議会は、ボルソナロ前大統領の支持者が侵入し破壊された(1月8日)......REUTERS/Ricardo MoraesREUTERS/Ricardo Moraes

<2023年はAIを利用したフェイクニュースやディープフェイク(AIによって生成された動画)がネットにあふれ 、情報の終焉(インフォカリプス)と呼ぶべき事態がせまっている......>

2020年にはほぼ実用段階に入っていた技術

2023年にはAIを利用したフェイクニュースやディープフェイク(AIによって生成された動画)がネットにあふれるという予測がある。

AIにおおまかな指示を与えるだけで、複数の人間になりまして、SNSへの投稿をおこない、反応があれば自律的に応答してくれる。必要があればマニフェストや長文の記事も作るし、そのための著名人の登場する偽の画像や動画も用意できる。たとえば習近平の台湾軍事侵攻発表のスピーチ動画を生成し、記事ととともに拡散させることもできる。

言語AI「GPT-3」などはすでに陰謀論や人種差別あるいは反ワクチンといった反主流ナラティブを熟知しているので、Qアノンの陰謀論を利用して特定の政党を貶めるようなサイトのコンテンツ(自動生成した画像や偽の証拠動画つき)の生成はお手のものだ。

疲れを知らず24時間365日、大量の情報を発信し、必要に応じて画像や動画をアップロードし、反応に迅速に応答する。そして誹謗中傷にあっても決して心が折れることがなく、一貫性があり、相手の発言を忘れない。無敵だ。

2020年の段階でこれらのすべてをほとんどお金をかけずに個人でも実行できるようになっていた。たとえば2019年にサイバーセキュリティ会社FireEyeの大学院生のインターンがAIを3カ月訓練して2016年のアメリカ大統領選でロシアがおこなったのと同等のデジタル影響工作をおこなえるようにしている。

2020年にはGPT-3を使ったボットが大手SNS、Redditに投稿と反応への返信をおこなったが、人間ではないと気づかれずに1週間活動できた。1分間に1回投稿していていたというから、デジタル影響工作に利用された時のインパクトは大きそうだ。

一部の識者は2020年のアメリカ大統領選でディープフェイクが猛威を振るうと予測したが、時代はまだ技術に追いついていなかったようだ。3年経って、これらのAIはより使いやすく手軽になった。2023年はAI支援デジタル影響工作が本格的に猛威をふるい出すと言われている。

その手軽さゆえに国家だけではなく、金目当ての企業、犯罪者、個人が使い出すのだ。AIを使ったネット世論操作=AI支援デジタル影響工作ツールは戦術核の威力を持った火炎ビンのようなもので、その利用は「情報テロ」とでもいうものだ。本稿の情報の出典については拙noteでご紹介している。

インフォカリプス(情報の終焉)の到来

しかし、こうした研究や警告があったものの、AI支援デジタル影響工作の危険性は一部に知られるに留まっていた。AIによって職が奪われたり、自律型兵器が開発される危惧に関する記事を見かけることはあっても、AI支援デジタル影響工作ツールについての記事はあまりなかった。
しかし、失職や兵器に比べると直接的な被害は少ないものの、社会を分断し、メディアや情報への信頼が失われ、「インフォカリプス:インフォメーション+アポカリプス(黙示録)」をもたらす。インフォカリプスはミシガン大学の研究者アビーブ・オバディアの造語で、大量の偽情報があふれ、もはや情報の真偽を見分けることすらあきらめてしまう状態を指す。

すでにさまざまな調査でニュース忌避やニュースを信頼性ではなく利便性(タイパ)で選択する傾向が見られるようになっており、インフォカリプスはすぐそこにある未来だ。最後の一押しで世界をインフォカリプスに突き落とすのがAI支援デジタル影響工作の可能性が高い。

プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』(集英社)『天才ハッカー安部響子と五分間の相棒』(集英社)『フェイクニュース 新しい戦略的戦争兵器』(角川新書)『ウクライナ侵攻と情報戦』(扶桑社新書)など著作多数。ツイッター

今、あなたにオススメ

ニュース速報

ビジネス

サンタンデール、財務目標据え置き 金融不安でも融資

ワールド

日中、防衛当局間のホットライン運用開始 不測の事態

ビジネス

国債買い入れ、4─6月は1年超以上のオファー額のレ

ワールド

政府のこども政策、少子化反転へ3年間で集中取り組み

今、あなたにオススメ

MAGAZINE

特集:小泉悠×河東哲夫 ウクライナ戦争 超分析

2023年4月 4日号(3/28発売)

戦争の「天王山」/ウクライナ戦車旅団/プーチンの正体......。日本有数のロシア通である2人の特別対談・前編

メールマガジンのご登録はこちらから。

人気ランキング

  • 1

    生地越しにバストトップが... エムラタ、ばっさりショートに「透け過ぎ」衣装でベッドにごろり

  • 2

    北朝鮮軍の「エロい」訓練動画に世界が困惑!

  • 3

    女性兵士50人が犠牲に...北朝鮮軍が動揺した「鬼畜事件」

  • 4

    ロシアとの戦いで「ウクライナ軍は世界一の軍隊にな…

  • 5

    北朝鮮の「プリンセス」キム・ジュエ、栄養失調の国民よ…

  • 6

    「体が大きく曲がったクジラを目撃した!」──スペイン

  • 7

    モスクワ上空に不気味な「黒い輪」出現 正体めぐり…

  • 8

    ハリウッドの「モテ女」エミリー・ラタコウスキーが…

  • 9

    戦争の焦点は「ウクライナ軍のクリミア奪還作戦」へ…

  • 10

    【レア動画4選】ウクライナとロシア戦車の一騎討ち<…

  • 1

    生地越しにバストトップが... エムラタ、ばっさりショートに「透け過ぎ」衣装でベッドにごろり

  • 2

    「見られる価値のない体なんてない」 車椅子に乗った障がい者女性が下着モデルに...批判にも大反論

  • 3

    大丈夫? 見えてない? テイラー・スウィフトのライブ衣装、きわどすぎて観客を心配させる

  • 4

    金融のドミノ倒し、次はドイツ銀行か

  • 5

    北朝鮮軍の「エロい」訓練動画に世界が困惑!

  • 6

    女性兵士50人が犠牲に...北朝鮮軍が動揺した「鬼畜事…

  • 7

    大事な部分を「羽根」で隠しただけ...米若手女優、ほ…

  • 8

    北朝鮮の「プリンセス」キム・ジュエ、栄養失調の国民よ…

  • 9

    「次は馬で出撃か?」 戦車不足のロシア、1940年代の…

  • 10

    「ベッドでやれ!」 賑わうビーチで我慢できなくなっ…

  • 1

    大事な部分を「羽根」で隠しただけ...米若手女優、ほぼ丸見えドレスに「悪趣味」の声

  • 2

    推定「Zカップ」の人工乳房を着けて授業をした高校教師、大揉めの末に休職

  • 3

    【写真6枚】屋根裏に「謎の住居」を発見...その中には...

  • 4

    ざわつくスタバの駐車場、車の周りに人だかり 出て…

  • 5

    生地越しにバストトップが... エムラタ、ばっさりシ…

  • 6

    年金は何歳から受給するのが正解? 早死にしたら損だ…

  • 7

    【悲惨動画3選】素人ロシア兵の死にざま──とうとう…

  • 8

    プーチンの居場所は、愛人と暮らす森の中の「金ピカ…

  • 9

    ウクライナ軍兵士の凄技!自爆型ドローンがロシア戦…

  • 10

    「この世のものとは...」 シースルードレスだらけの…

日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story