コラム

「AIファクトチェック」はもはや幻想? 非常時に裏切るチャットボットの正体

2025年07月08日(火)16時31分

偽・誤情報拡散の主役はAIに!?

AIの普及にともなってAIが偽・誤情報の生産と拡散を行うことが増えてきている。存在しないものを存在するかのように紹介するハルシネーション(幻覚)はAI自身が生み出す偽・誤情報で、いまだに続いている。

人間がAIを利用してデマを捏造することも増えている。かつてはテキストだったが、今では画像や動画、音声の捏造(ディープフェイク)まで行われており、前掲のロサンゼルスの抗議活動でもディープフェイクの拡散が確認されている。AIが偽・誤情報生成の主役となりつつある。


また、ほとんど話題に上ることのないAIボット(AIを利用し、自律的に応答する)だが、相当数がすでに配備されている可能性が高い。

自律的にアカウントを運用し、人間のアカウントとも自然な会話ができるAIボットの検出は非常に困難であるため、検知されることが稀であるために話題にならないのであって実際には普及している可能性が高いのだ。

今回のAIのやらかしファクトチェックはこうした状況下で起きた。AIが情報を捏造、投稿、拡散し、ファクトチェックでさらに偽・誤情報を発信、拡散するというAI環境下での新しい偽・誤情報拡散サイクルができつつある。ロサンゼルス抗議活動にともなう一連の騒動でそれが可視化された。

プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』(集英社)『天才ハッカー安部響子と五分間の相棒』(集英社)『フェイクニュース 新しい戦略的戦争兵器』(角川新書)『ネット世論操作とデジタル影響工作』(共著、原書房)など著作多数。X(旧ツイッター)。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所。

あわせて読みたい
ニュース速報

ビジネス

米国株式市場=S&P小幅安、関税巡る不透明感が重し

ワールド

イラン外相、米国との外交交渉再開に前向き姿勢示す 

ビジネス

NY外為市場=円下落・豪ドル上昇、米関税や中銀政策

ワールド

トランプ氏「韓国は自国の国防費負担すべき」、米軍駐
あわせて読みたい
MAGAZINE
特集:大森元貴「言葉の力」
特集:大森元貴「言葉の力」
2025年7月15日号(7/ 8発売)

時代を映すアーティスト・大森元貴の「言葉の力」の源泉にロングインタビューで迫る

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    「ヒラリーに似すぎ」なトランプ像...ディズニー・ワールドの大統領人形が遂に「作り直し」に、比較写真にSNS爆笑
  • 2
    「弟ができた!」ゴールデンレトリバーの初対面に、ネットが感動の渦
  • 3
    犯罪者に狙われる家の「共通点」とは? 広域強盗事件の現場から浮かび上がる「2つの条件」
  • 4
    シャーロット王女の「ロイヤル・ボス」ぶりが話題に..…
  • 5
    自由都市・香港から抗議の声が消えた...入港した中国…
  • 6
    トランプ、日本に25%の関税...交渉期限は8月1日まで…
  • 7
    日本企業の「夢の電池」技術を中国スパイが流出...AP…
  • 8
    「けしからん」の応酬が参政党躍進の主因に? 既成…
  • 9
    トランプ関税と財政の無茶ぶりに投資家もうんざり、…
  • 10
    人種から体型、言語まで...実は『ハリー・ポッター』…
  • 1
    ディズニー・クルーズラインで「子供が海に転落」...父親も飛び込み大惨事に、一体何が起きたのか?
  • 2
    「やらかした顔」がすべてを物語る...反省中のワンコに1400万人が注目
  • 3
    後ろの川に...婚約成立シーンを記録したカップルの幸せ映像に「それどころじゃない光景」が映り込んでしまう
  • 4
    職場でのいじめ・パワハラで自死に追いやられた21歳…
  • 5
    【クイズ】「宗教を捨てる人」が最も多い宗教はどれ?
  • 6
    為末大×TAKUMI──2人のプロが語る「スポーツとお金」 …
  • 7
    シャーロット王女の「ロイヤル・ボス」ぶりが話題に..…
  • 8
    「本物の強さは、股関節と脚に宿る」...伝説の「元囚…
  • 9
    「飛行機内が臭い...」 原因はまさかの「座席の下」…
  • 10
    アリ駆除用の「毒餌」に、アリが意外な方法で「反抗…
  • 1
    「コーヒーを吹き出すかと...」ディズニーランドの朝食が「高額すぎる」とSNSで大炎上、その「衝撃の値段」とは?
  • 2
    「あまりに愚か...」国立公園で注意を無視して「予測不能な大型動物」に近づく幼児連れ 「ショッキング」と映像が話題に
  • 3
    庭にクマ出没、固唾を呑んで見守る家主、そして次の瞬間...「信じられない行動」にネット驚愕
  • 4
    10歳少女がサメに襲われ、手をほぼ食いちぎられる事…
  • 5
    JA・卸売業者が黒幕説は「完全な誤解」...進次郎の「…
  • 6
    ディズニー・クルーズラインで「子供が海に転落」...…
  • 7
    気温40℃、空港の「暑さ」も原因に?...元パイロット…
  • 8
    燃え盛るロシアの「黒海艦隊」...ウクライナの攻撃で…
  • 9
    「小麦はもう利益を生まない」アメリカで農家が次々…
  • 10
    イランを奇襲した米B2ステルス機の謎...搭乗した専門…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story