コラム

我々の世界はSFよりもSF......生成AIがスクープを連発する新しい情報エコシステム

2023年08月04日(金)15時30分

生成AIは「取材力」を持つことでさらに強力になる...... Arkadiusz Warguła-istock

<AIは人類の情報エコシステムは非常に危険なものに作り変えてしまったようだ。情報エコシステムが変われば文化や社会も変わる。我々はAIに誘導される世界に生きている......>

生成AIの登場によって一気にAIの利用が拡大した。大手メディアも生成AIの利用を推進し、生成AIが作ったイラストや画像の利用も増えた。システム開発にも利用されている。

その一方で数々の問題も指摘されている。たとえば生成AIはもっともらしいウソをつく。幻覚(hallucination)と呼ばれるものだ。存在しないものや人物、事件などをでっちあげる。存在しないセクハラ事件をでっちあげられた教授もいるし、生成AIが答えた存在しない判例がそのまま利用されそうになったこともある。また、マルウェアの開発などに悪用されることもある。高度化したAIが人類を滅ぼすようになるという話もよく聞くようになった。

すでに人類はAIが管理する情報エコシステムに生きている

AIが人類を滅ぼすかどうかはわからないが、すでに人類の情報エコシステムは非常に危険なものに作り変えてしまったようだ。情報エコシステムが変われば文化や社会も変わる。我々はAIに誘導される世界に生きている。

社会のインフラとなった情報ネットワークの随所ですでにAIが利用されており、SNSプラットフォームやECなどで日々人間の行動を誘導している。人によっては目にする情報がボットが拡散したコンテンツばかりということもあるだろう(本人は気づいていないだろうが)。

ichida20230804aa.jpeg

SNSプラットフォームのアルゴリズムとネット世論操作などによって一定の傾向を持つコンテンツが拡散し、特に目立つものは大手メディアにも取り上げられて、さらに拡散する。プロパガンダ・パイプラインと呼ばれるメカニズムだ。日本にはまとめサイトやヤフートピックスなどがSNSプラットフォームからコンテンツをピックアップし、そこから大手メディアなどに拡散するフェイクニュース・パイプラインがある。

SNSプラットフォームのアルゴリズムが選んだコンテンツが拡散すると、発信者のフォロワー数は増加し、広告収入やその他のインセンティブ(自己承認欲求の充足も含む)が得られ、さらに発信に精を出す。フォロワー数とインセンティブが増えるとその発信者のコンテンツは拡散されやすくなる。

こういったエコシステムができており、関係者の経済的メリットだけ考えるととても効率的だ。ただ、AIは莫大な人間のデータから学習しており、そこには偏見や差別など問題のあるものが含まれてる。結果として、現在のほとんどのAIは「偏見ロンダリング」されたもの、それも多くの人間がうっかり共感してしまうようなものになっている。SNSプラットフォームが差別主義者や陰謀論の温床になっていることが、そのことを端的に示している。

プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』(集英社)『天才ハッカー安部響子と五分間の相棒』(集英社)『フェイクニュース 新しい戦略的戦争兵器』(角川新書)『ネット世論操作とデジタル影響工作』(共著、原書房)など著作多数。X(旧ツイッター)。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所。

あわせて読みたい
ニュース速報

ワールド

米ロ関係に前向きな動き、ウクライナ問題解決に道筋=

ビジネス

外部環境大きく変化なら見通しも変わる、それに応じて

ビジネス

消費支出、2月は3カ月ぶり減少 節約志向と所得増が

ワールド

米団体、中国製品の関税巡りトランプ政権を提訴 「権
あわせて読みたい
MAGAZINE
特集:引きこもるアメリカ
特集:引きこもるアメリカ
2025年4月 8日号(4/ 1発売)

トランプ外交で見捨てられ、ロシアの攻撃リスクにさらされるヨーロッパは日本にとって他人事なのか?

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    「最後の1杯」は何時までならOKか?...コーヒーと睡眠の「正しい関係」【最新研究】
  • 2
    【クイズ】日本の輸出品で2番目に多いものは何?
  • 3
    アメリカで「最古の銃」発見...いったい誰が何のために持ち込んだ?
  • 4
    中居正広は何をしたのか? 真相を知るためにできる…
  • 5
    5万年以上も前の人類最古の「物語の絵」...何が描か…
  • 6
    得意げに発表した相互関税はトランプのオウンゴール…
  • 7
    「ネイティブ並み」は目指す必要なし? グローバル…
  • 8
    【クイズ】世界で最も「レアアースの埋蔵量」が多い…
  • 9
    アメリカから言論の自由が消える...トランプ「思想狩…
  • 10
    テスラが陥った深刻な販売不振...積極プロモも空振り…
  • 1
    【クイズ】世界で最も「レアアースの埋蔵量」が多い国はどこ?
  • 2
    自らの醜悪さを晒すだけ...ジブリ風AIイラストに「大はしゃぎ」する人に共通する点とは?
  • 3
    中居正広は何をしたのか? 真相を知るためにできる唯一の方法
  • 4
    ロシア空軍基地へのドローン攻撃で、ウクライナが「…
  • 5
    ガムから有害物質が体内に取り込まれている...研究者…
  • 6
    8日の予定が286日間に...「長すぎた宇宙旅行」から2…
  • 7
    磯遊びでは「注意が必要」...6歳の少年が「思わぬ生…
  • 8
    あまりにも似てる...『インディ・ジョーンズ』の舞台…
  • 9
    突然の痛風、原因は「贅沢」とは無縁の生活だった...…
  • 10
    なぜ「猛毒の魚」を大量に...アメリカ先住民がトゲの…
  • 1
    中国戦闘機が「ほぼ垂直に墜落」する衝撃の瞬間...大爆発する機体の「背後」に映っていたのは?
  • 2
    「さようなら、テスラ...」オーナーが次々に「売り飛ばす」理由とは?
  • 3
    「一夜にして死の川に」 ザンビアで、中国所有の鉱山ダムから有毒の水が流出...惨状伝える映像
  • 4
    テスラ失墜...再販価値暴落、下取り拒否...もはやス…
  • 5
    「今まで食べた中で1番おいしいステーキ...」ドジャ…
  • 6
    市販薬が一部の「がんの転移」を防ぐ可能性【最新研…
  • 7
    テスラ販売急減の衝撃...国別に見た「最も苦戦してい…
  • 8
    「テスラ時代」の崩壊...欧州でシェア壊滅、アジアで…
  • 9
    テスラの没落が止まらない...株価は暴落、業績も行き…
  • 10
    【クイズ】世界で最も「レアアースの埋蔵量」が多い…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story