- HOME
- コラム
- デジタル権威主義とネット世論操作
- 我々の世界はSFよりもSF......生成AIがス…
我々の世界はSFよりもSF......生成AIがスクープを連発する新しい情報エコシステム
生成AIは「取材力」を持つことでさらに強力になる...... Arkadiusz Warguła-istock
<AIは人類の情報エコシステムは非常に危険なものに作り変えてしまったようだ。情報エコシステムが変われば文化や社会も変わる。我々はAIに誘導される世界に生きている......>
生成AIの登場によって一気にAIの利用が拡大した。大手メディアも生成AIの利用を推進し、生成AIが作ったイラストや画像の利用も増えた。システム開発にも利用されている。
その一方で数々の問題も指摘されている。たとえば生成AIはもっともらしいウソをつく。幻覚(hallucination)と呼ばれるものだ。存在しないものや人物、事件などをでっちあげる。存在しないセクハラ事件をでっちあげられた教授もいるし、生成AIが答えた存在しない判例がそのまま利用されそうになったこともある。また、マルウェアの開発などに悪用されることもある。高度化したAIが人類を滅ぼすようになるという話もよく聞くようになった。
すでに人類はAIが管理する情報エコシステムに生きている
AIが人類を滅ぼすかどうかはわからないが、すでに人類の情報エコシステムは非常に危険なものに作り変えてしまったようだ。情報エコシステムが変われば文化や社会も変わる。我々はAIに誘導される世界に生きている。
社会のインフラとなった情報ネットワークの随所ですでにAIが利用されており、SNSプラットフォームやECなどで日々人間の行動を誘導している。人によっては目にする情報がボットが拡散したコンテンツばかりということもあるだろう(本人は気づいていないだろうが)。
SNSプラットフォームのアルゴリズムとネット世論操作などによって一定の傾向を持つコンテンツが拡散し、特に目立つものは大手メディアにも取り上げられて、さらに拡散する。プロパガンダ・パイプラインと呼ばれるメカニズムだ。日本にはまとめサイトやヤフートピックスなどがSNSプラットフォームからコンテンツをピックアップし、そこから大手メディアなどに拡散するフェイクニュース・パイプラインがある。
SNSプラットフォームのアルゴリズムが選んだコンテンツが拡散すると、発信者のフォロワー数は増加し、広告収入やその他のインセンティブ(自己承認欲求の充足も含む)が得られ、さらに発信に精を出す。フォロワー数とインセンティブが増えるとその発信者のコンテンツは拡散されやすくなる。
こういったエコシステムができており、関係者の経済的メリットだけ考えるととても効率的だ。ただ、AIは莫大な人間のデータから学習しており、そこには偏見や差別など問題のあるものが含まれてる。結果として、現在のほとんどのAIは「偏見ロンダリング」されたもの、それも多くの人間がうっかり共感してしまうようなものになっている。SNSプラットフォームが差別主義者や陰謀論の温床になっていることが、そのことを端的に示している。
中国が仕掛ける「沖縄と台湾をめぐる認知戦」流布される5つの言説 2024.10.30
SNSで燃え上がる【偽・誤情報の拡散】...カギとなる対抗する力とは? 2024.09.18
英暴動は他人事ではない......偽・誤情報の「不都合な真実」 2024.08.16
中国が台湾併合する非軍事シナリオを米シンクタンクが公開......日本が核武装? 2024.06.12
見直しが始まった誤・偽情報対策 ほとんどの対策は逆効果だった? 2024.05.08
検索結果をプロパガンダと陰謀論だらけにするデータボイド(データの空白)脆弱性 2024.04.08
2024年、SNSプラットフォームが選挙を通じて世界を変える 2024.03.15