- HOME
- コラム
- デジタル権威主義とネット世論操作
- 「AIファクトチェック」はもはや幻想? 非常時に裏…
「AIファクトチェック」はもはや幻想? 非常時に裏切るチャットボットの正体
偽・誤情報拡散の主役はAIに!?
AIの普及にともなってAIが偽・誤情報の生産と拡散を行うことが増えてきている。存在しないものを存在するかのように紹介するハルシネーション(幻覚)はAI自身が生み出す偽・誤情報で、いまだに続いている。
人間がAIを利用してデマを捏造することも増えている。かつてはテキストだったが、今では画像や動画、音声の捏造(ディープフェイク)まで行われており、前掲のロサンゼルスの抗議活動でもディープフェイクの拡散が確認されている。AIが偽・誤情報生成の主役となりつつある。
また、ほとんど話題に上ることのないAIボット(AIを利用し、自律的に応答する)だが、相当数がすでに配備されている可能性が高い。
自律的にアカウントを運用し、人間のアカウントとも自然な会話ができるAIボットの検出は非常に困難であるため、検知されることが稀であるために話題にならないのであって実際には普及している可能性が高いのだ。
今回のAIのやらかしファクトチェックはこうした状況下で起きた。AIが情報を捏造、投稿、拡散し、ファクトチェックでさらに偽・誤情報を発信、拡散するというAI環境下での新しい偽・誤情報拡散サイクルができつつある。ロサンゼルス抗議活動にともなう一連の騒動でそれが可視化された。
「AIファクトチェック」はもはや幻想? 非常時に裏切るチャットボットの正体 2025.07.08
アメリカ発「陰謀論が主流に」──民主主義と情報の未来、日本は対岸の火事か? 2025.06.02
「騙されるAI」0.001%の誤情報の混入で誤った回答を導く巨大な罠 2025.05.05
トランプ政権下での言葉狩りで「過去の歴史は改ざん」...アメリカの新しい現実を理解しよう 2025.04.08
「2度の総選挙への干渉を経験」カナダの調査委員会が提示した偽・誤情報対策の衝撃 2025.02.21
アメリカが「ロシア化」3つのパワーを解放し、世界をリードし続ける 2025.01.29