コラム

我々の世界はSFよりもSF......生成AIがスクープを連発する新しい情報エコシステム

2023年08月04日(金)15時30分

生成AIは「取材力」を持つことでさらに強力になる...... Arkadiusz Warguła-istock

<AIは人類の情報エコシステムは非常に危険なものに作り変えてしまったようだ。情報エコシステムが変われば文化や社会も変わる。我々はAIに誘導される世界に生きている......>

生成AIの登場によって一気にAIの利用が拡大した。大手メディアも生成AIの利用を推進し、生成AIが作ったイラストや画像の利用も増えた。システム開発にも利用されている。

その一方で数々の問題も指摘されている。たとえば生成AIはもっともらしいウソをつく。幻覚(hallucination)と呼ばれるものだ。存在しないものや人物、事件などをでっちあげる。存在しないセクハラ事件をでっちあげられた教授もいるし、生成AIが答えた存在しない判例がそのまま利用されそうになったこともある。また、マルウェアの開発などに悪用されることもある。高度化したAIが人類を滅ぼすようになるという話もよく聞くようになった。

すでに人類はAIが管理する情報エコシステムに生きている

AIが人類を滅ぼすかどうかはわからないが、すでに人類の情報エコシステムは非常に危険なものに作り変えてしまったようだ。情報エコシステムが変われば文化や社会も変わる。我々はAIに誘導される世界に生きている。

社会のインフラとなった情報ネットワークの随所ですでにAIが利用されており、SNSプラットフォームやECなどで日々人間の行動を誘導している。人によっては目にする情報がボットが拡散したコンテンツばかりということもあるだろう(本人は気づいていないだろうが)。

ichida20230804aa.jpeg

SNSプラットフォームのアルゴリズムとネット世論操作などによって一定の傾向を持つコンテンツが拡散し、特に目立つものは大手メディアにも取り上げられて、さらに拡散する。プロパガンダ・パイプラインと呼ばれるメカニズムだ。日本にはまとめサイトやヤフートピックスなどがSNSプラットフォームからコンテンツをピックアップし、そこから大手メディアなどに拡散するフェイクニュース・パイプラインがある。

SNSプラットフォームのアルゴリズムが選んだコンテンツが拡散すると、発信者のフォロワー数は増加し、広告収入やその他のインセンティブ(自己承認欲求の充足も含む)が得られ、さらに発信に精を出す。フォロワー数とインセンティブが増えるとその発信者のコンテンツは拡散されやすくなる。

こういったエコシステムができており、関係者の経済的メリットだけ考えるととても効率的だ。ただ、AIは莫大な人間のデータから学習しており、そこには偏見や差別など問題のあるものが含まれてる。結果として、現在のほとんどのAIは「偏見ロンダリング」されたもの、それも多くの人間がうっかり共感してしまうようなものになっている。SNSプラットフォームが差別主義者や陰謀論の温床になっていることが、そのことを端的に示している。

プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』(集英社)『天才ハッカー安部響子と五分間の相棒』(集英社)『フェイクニュース 新しい戦略的戦争兵器』(角川新書)『ネット世論操作とデジタル影響工作』(共著、原書房)など著作多数。X(旧ツイッター)。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所。

あわせて読みたい
ニュース速報

ワールド

北朝鮮、31日発射は最新ICBM「火星19」 最終

ワールド

原油先物、引け後2ドル超上昇 イランがイスラエル攻

ビジネス

アップル、四半期業績が予想上回る 新型iPhone

ビジネス

インテル、第4四半期売上高見通し予想上回る 第3四
あわせて読みたい
MAGAZINE
特集:米大統領選と日本経済
特集:米大統領選と日本経済
2024年11月 5日/2024年11月12日号(10/29発売)

トランプ vs ハリスの結果次第で日本の金利・為替・景気はここまで変わる

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    日本で「粉飾倒産」する企業が増えている理由...今後はさらなる「倒産増加」が予想される
  • 2
    「まるで睾丸」ケイト・ベッキンセールのコルセットドレスにネット震撼...「破裂しそう」と話題に
  • 3
    幻のドレス再び? 「青と黒」「白と金」論争に終止符を打つ「本当の色」とは
  • 4
    脱北者約200人がウクライナ義勇軍に参加を希望 全員…
  • 5
    モスクワで高層ビルより高い「糞水(ふんすい)」噴…
  • 6
    北朝鮮軍とロシア軍「悪夢のコラボ」の本当の目的は…
  • 7
    天文学者が肉眼で見たオーロラは失望の連続、カメラ…
  • 8
    中国が仕掛ける「沖縄と台湾をめぐる認知戦」流布さ…
  • 9
    外来種の巨大ビルマニシキヘビが、シカを捕食...大き…
  • 10
    自爆型ドローン「スイッチブレード」がロシアの防空…
  • 1
    外来種の巨大ビルマニシキヘビが、シカを捕食...大きな身体を「丸呑み」する衝撃シーンの撮影に成功
  • 2
    モスクワで高層ビルより高い「糞水(ふんすい)」噴出! 屈辱動画がウクライナで拡散中
  • 3
    キャンピングカーに住んで半年「月40万円の節約に」全長10メートルの生活の魅力を語る
  • 4
    幻のドレス再び? 「青と黒」「白と金」論争に終止符…
  • 5
    2027年で製造「禁止」に...蛍光灯がなくなったら一体…
  • 6
    【クイズ】次のうち、和製英語ではないものはどれ?…
  • 7
    世界がいよいよ「中国を見捨てる」?...デフレ習近平…
  • 8
    日本で「粉飾倒産」する企業が増えている理由...今後…
  • 9
    「決して真似しないで」...マッターホルン山頂「細す…
  • 10
    【衝撃映像】イスラエル軍のミサイルが着弾する瞬間…
  • 1
    ベッツが語る大谷翔平の素顔「ショウは普通の男」「自由がないのは気の毒」「野球は超人的」
  • 2
    「地球が作り得る最大のハリケーン」が間もなくフロリダ上陸、「避難しなければ死ぬ」レベル
  • 3
    秋の夜長に...「紫金山・アトラス彗星」が8万年ぶりに大接近、肉眼でも観測可能
  • 4
    外来種の巨大ビルマニシキヘビが、シカを捕食...大き…
  • 5
    死亡リスクはロシア民族兵の4倍...ロシア軍に参加の…
  • 6
    大破した車の写真も...FPVドローンから逃げるロシア…
  • 7
    モスクワで高層ビルより高い「糞水(ふんすい)」噴…
  • 8
    韓国著作権団体、ノーベル賞受賞の韓江に教科書掲載料…
  • 9
    エジプト「叫ぶ女性ミイラ」の謎解明...最新技術が明…
  • 10
    コストコの人気ケーキに驚きの発見...中に入っていた…
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story