コラム

「AIファクトチェック」はもはや幻想? 非常時に裏切るチャットボットの正体

2025年07月08日(火)16時31分
AIは平時の応答で人間を信用させ、非常時に裏切る

CL STOCK -shutterstock-

<米国で拡散した抗議デマ、偽の兵士画像、陰謀論――真偽を確かめようとAIに頼った人々が得たのは、さらに深い混乱だった>

現在、アメリカ各地――とくにロサンゼルスを中心に――で、トランプ政権に反対する抗議活動が広がっている。このような社会的混乱に乗じて、陰謀論や偽情報がSNS上で次々と投稿されている状況である。

厄介なのは、アメリカの主要SNSプラットフォームがここ数年、「表現の自由」の名のもとに投稿のモデレーション(監視)を緩めてきた点である。これにより、本来なら削除されていたはずの虚偽情報が削除されずに拡散されてしまうケースが増えている。

ボロを出したAIチャットボット


抗議活動をめぐるSNS投稿を見て、「この情報は本当なのか?」と疑問を抱いた人々も多い。そのようなユーザーは、真偽を確かめるためにGrokやChatGPTといったAIチャットボットに確認を依頼するようになってきた。

以前はGoogleなどの検索エンジンを使っていたが、現在では、要点をまとめて即座に回答してくれるAIチャットボットが広く利用されているのである。

さらに事態をややこしくしているのが、AIが生成した偽の画像や映像の急増である。ニュースやSNSで流れる事件・事故の画像を見ても、それがAIによって作られたフェイクである可能性が常につきまとうようになった。

その結果、逆に本物の画像すら「AI生成の偽画像ではないか」と疑われる事態も多発している。

実際、今回の抗議活動でもそのような混乱が起きている。たとえば、サンフランシスコ・クロニクル誌が兵士の写真(本物)を掲載し、それをカリフォルニア州知事がX(旧Twitter)で共有したところ、「この写真はAIが作った偽画像だ」との批判が相次いだ。

この写真について、一部のユーザーがXのAIチャットボット「Grok」や「ChatGPT」に真偽を尋ねたところ、両者とも「偽画像である可能性が高い」と回答した。繰り返すが、この写真は完全に本物であった。後日、Grokは誤りを認め、謝罪していることがTIME誌によって報じられている。


プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』(集英社)『天才ハッカー安部響子と五分間の相棒』(集英社)『フェイクニュース 新しい戦略的戦争兵器』(角川新書)『ネット世論操作とデジタル影響工作』(共著、原書房)など著作多数。X(旧ツイッター)。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所。

あわせて読みたい
ニュース速報

ビジネス

ブルガリアが来年1月ユーロ導入、換算レート決定 E

ワールド

中国、ドイツ軍機にレーザー照射 独外務省が非難

ワールド

ネパール・中国国境で洪水、数十人が行方不明 橋流出

ビジネス

台湾輸出額、2カ月連続で過去最高更新 米関税巡り需
あわせて読みたい
MAGAZINE
特集:大森元貴「言葉の力」
特集:大森元貴「言葉の力」
2025年7月15日号(7/ 8発売)

時代を映すアーティスト・大森元貴の「言葉の力」の源泉にロングインタビューで迫る

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    シャーロット王女の「ロイヤル・ボス」ぶりが話題に...「曾祖母エリザベス女王の生き写し」
  • 2
    ディズニー・クルーズラインで「子供が海に転落」...父親も飛び込み大惨事に、一体何が起きたのか?
  • 3
    「飛行機内が臭い...」 原因はまさかの「座席の下」だった...異臭の正体にネット衝撃
  • 4
    「ヒラリーに似すぎ」なトランプ像...ディズニー・ワ…
  • 5
    アリ駆除用の「毒餌」に、アリが意外な方法で「反抗…
  • 6
    「やらかした顔」がすべてを物語る...反省中のワンコ…
  • 7
    為末大×TAKUMI──2人のプロが語る「スポーツとお金」 …
  • 8
    米テキサス州洪水「大規模災害宣言」...被害の陰に「…
  • 9
    後ろの川に...婚約成立シーンを記録したカップルの幸…
  • 10
    中国は台湾侵攻でロシアと連携する。習の一声でプー…
  • 1
    ディズニー・クルーズラインで「子供が海に転落」...父親も飛び込み大惨事に、一体何が起きたのか?
  • 2
    「やらかした顔」がすべてを物語る...反省中のワンコに1400万人が注目
  • 3
    後ろの川に...婚約成立シーンを記録したカップルの幸せ映像に「それどころじゃない光景」が映り込んでしまう
  • 4
    【クイズ】「宗教を捨てる人」が最も多い宗教はどれ?
  • 5
    職場でのいじめ・パワハラで自死に追いやられた21歳…
  • 6
    為末大×TAKUMI──2人のプロが語る「スポーツとお金」 …
  • 7
    シャーロット王女の「ロイヤル・ボス」ぶりが話題に..…
  • 8
    「本物の強さは、股関節と脚に宿る」...伝説の「元囚…
  • 9
    「飛行機内が臭い...」 原因はまさかの「座席の下」…
  • 10
    アリ駆除用の「毒餌」に、アリが意外な方法で「反抗…
  • 1
    「コーヒーを吹き出すかと...」ディズニーランドの朝食が「高額すぎる」とSNSで大炎上、その「衝撃の値段」とは?
  • 2
    「あまりに愚か...」国立公園で注意を無視して「予測不能な大型動物」に近づく幼児連れ 「ショッキング」と映像が話題に
  • 3
    庭にクマ出没、固唾を呑んで見守る家主、そして次の瞬間...「信じられない行動」にネット驚愕
  • 4
    10歳少女がサメに襲われ、手をほぼ食いちぎられる事…
  • 5
    JA・卸売業者が黒幕説は「完全な誤解」...進次郎の「…
  • 6
    ディズニー・クルーズラインで「子供が海に転落」...…
  • 7
    気温40℃、空港の「暑さ」も原因に?...元パイロット…
  • 8
    燃え盛るロシアの「黒海艦隊」...ウクライナの攻撃で…
  • 9
    「小麦はもう利益を生まない」アメリカで農家が次々…
  • 10
    イランを奇襲した米B2ステルス機の謎...搭乗した専門…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story