コラム

2023年はAIが生成したフェイクニュースが巷にあふれる......インフォカリプス(情報の終焉)の到来

2023年01月19日(木)18時47分

インフォカリプスが進行することによって、制度や政府に対する信頼が低下し、社会は不安定になる。その結果、陰謀論や極右、あるいは白人至上主義を信じた人々の過激な行動が発生しやすくなる。2021年のアメリカ連邦議事堂襲撃事件、2022年のドイツのクーデター未遂事件、2023年のブラジルの連邦議事堂等襲撃事件は序章でしかない。

また、選挙への影響も甚大だ。すでに世界各国の選挙でデマや偽情報が飛び交うようになっており、先の事件が起きた国々では選挙に陰謀論などを信奉する候補者が登場、当選している。

さらにAI支援デジタル影響工作は通常のAI利用において起こる致命的な問題を克服していることも見逃せない。AIはまちがえることもあるし、倫理的に許容できない判断をすることもある。通常は人間が確認して補正しなければならない。しかし、デジタル影響工作に用いる限りにおいては、これらは許容される。多くのデジタル影響工作の目的は、分断と混乱を引き起こすことなのだから問題にならないのだ。

誤りと倫理的課題への対処が不要というのは既存のメディアに対して圧倒的に有利である。メディア業界では急速にAIの利用が進んでいる。たとえばAP通信は2014年に企業の決算報告書を自動生成し始め、1年でわずか300社から4,000社に取材範囲を拡大している。自動生成記事は人間の記事よりも誤りが少なく、休む必要がない。ただし、とんでもない間違いをしでかすこともあるので人間のチェックが不可欠となっている。

AI支援デジタル影響工作によって生み出させる動画や記事に比べると、確認の工程が必要な一般メディアの記事はコストも時間も余分にかかってしまうのだ。ファクトチェックはさらに時間がかかるため、AI支援デジタル影響工作に対してファクトチェックで対抗するのは、バケツで海の水をすくえば海は干上がると信じるようなものだ。

現状のデジタル影響工作でも対処が難しいのに、AI支援デジタル影響工作でより本物らしいコンテンツが大量生産されるようになることは本格的なインフォカリプス時代の到来を招くだろう。

これから起こること

当面起こるのは、自動生成コンテンツの急増である。

・AI支援デジタル影響工作ツールによって生み出されたディープフェイクがYouTubeなどの動画サイトにあふれる。政治家や俳優などの著名人を登場させる動画、あるいは知名度の高いメディア(BBCやCNN、NYTなど)を模倣、利用したものが多くなる。また、事件やイベントなどを捏造した動画も多数出回るだろう。

・一見まっとうに見えるが、AI支援デジタル影響工作ツールによって生成されたコンテンツだけでできているニュースサイトやまとめサイトが増加する。さまざまなニュースをまとめて記事にするAIはすでに実用化されおり、まっとうなニュースの要約と陰謀論などを混在させて信頼させやすくするサイトを作れる。そして、サイト同士で相互に参照し合うことによって信憑性を高めるメディア・ミラージュ(蜃気楼)も増加する。一般的なメディア・リテラシーは複数の情報源で確認することを推奨しているのでこのメディア・ミラージュは効果がある。

・人間になりすましたAIボットがSNSにまぎれこんで、投稿や応答をおこなう。投稿にあたっては上記のサイトや動画を参照するようになり、主張の根拠に利用することでメディア・ミラージュ効果を高められる。

さらにその次に起こるのは、次のようなことだ。

プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』(集英社)『天才ハッカー安部響子と五分間の相棒』(集英社)『フェイクニュース 新しい戦略的戦争兵器』(角川新書)『ウクライナ侵攻と情報戦』(扶桑社新書)など著作多数。ツイッター

今、あなたにオススメ

ニュース速報

ビジネス

英GDP確報値、第4四半期は前期比+0.1% 景気

ビジネス

米テスラのマスク氏、訪中を計画 李首相との面会模索

ビジネス

情報BOX:半導体製造装置の輸出規制、対象品目と企

ビジネス

シェル、再生エネ・低炭素事業の組織再編

今、あなたにオススメ

MAGAZINE

特集:小泉悠×河東哲夫 ウクライナ戦争 超分析

2023年4月 4日号(3/28発売)

戦争の「天王山」/ウクライナ戦車旅団/プーチンの正体......。日本有数のロシア通である2人の特別対談・前編

メールマガジンのご登録はこちらから。

人気ランキング

  • 1

    生地越しにバストトップが... エムラタ、ばっさりショートに「透け過ぎ」衣装でベッドにごろり

  • 2

    北朝鮮軍の「エロい」訓練動画に世界が困惑!

  • 3

    女性兵士50人が犠牲に...北朝鮮軍が動揺した「鬼畜事件」

  • 4

    北朝鮮の「プリンセス」キム・ジュエ、栄養失調の国民よ…

  • 5

    ロシアとの戦いで「ウクライナ軍は世界一の軍隊にな…

  • 6

    【レア動画4選】ウクライナとロシア戦車の一騎討ち<…

  • 7

    金融のドミノ倒し、次はドイツ銀行か

  • 8

    大事な部分を「羽根」で隠しただけ...米若手女優、ほ…

  • 9

    習近平とプーチンの「兄弟関係」が逆転...兄が頼りの…

  • 10

    大丈夫? 見えてない? テイラー・スウィフトのライ…

  • 1

    生地越しにバストトップが... エムラタ、ばっさりショートに「透け過ぎ」衣装でベッドにごろり

  • 2

    「見られる価値のない体なんてない」 車椅子に乗った障がい者女性が下着モデルに...批判にも大反論

  • 3

    大丈夫? 見えてない? テイラー・スウィフトのライブ衣装、きわどすぎて観客を心配させる

  • 4

    金融のドミノ倒し、次はドイツ銀行か

  • 5

    北朝鮮軍の「エロい」訓練動画に世界が困惑!

  • 6

    女性兵士50人が犠牲に...北朝鮮軍が動揺した「鬼畜事…

  • 7

    大事な部分を「羽根」で隠しただけ...米若手女優、ほ…

  • 8

    北朝鮮の「プリンセス」キム・ジュエ、栄養失調の国民よ…

  • 9

    「次は馬で出撃か?」 戦車不足のロシア、1940年代の…

  • 10

    「ベッドでやれ!」 賑わうビーチで我慢できなくなっ…

  • 1

    大事な部分を「羽根」で隠しただけ...米若手女優、ほぼ丸見えドレスに「悪趣味」の声

  • 2

    推定「Zカップ」の人工乳房を着けて授業をした高校教師、大揉めの末に休職

  • 3

    【写真6枚】屋根裏に「謎の住居」を発見...その中には...

  • 4

    ざわつくスタバの駐車場、車の周りに人だかり 出て…

  • 5

    生地越しにバストトップが... エムラタ、ばっさりシ…

  • 6

    年金は何歳から受給するのが正解? 早死にしたら損だ…

  • 7

    【悲惨動画3選】素人ロシア兵の死にざま──とうとう…

  • 8

    プーチンの居場所は、愛人と暮らす森の中の「金ピカ…

  • 9

    ウクライナ軍兵士の凄技!自爆型ドローンがロシア戦…

  • 10

    「この世のものとは...」 シースルードレスだらけの…

日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story