「AIファクトチェック」はもはや幻想？ 非常時に裏切るチャットボットの正体

偽・誤情報拡散の主役はAIに！？

AIの普及にともなってAIが偽・誤情報の生産と拡散を行うことが増えてきている。存在しないものを存在するかのように紹介するハルシネーション（幻覚）はAI自身が生み出す偽・誤情報で、いまだに続いている。

人間がAIを利用してデマを捏造することも増えている。かつてはテキストだったが、今では画像や動画、音声の捏造（ディープフェイク）まで行われており、前掲のロサンゼルスの抗議活動でもディープフェイクの拡散が確認されている。AIが偽・誤情報生成の主役となりつつある。

また、ほとんど話題に上ることのないAIボット（AIを利用し、自律的に応答する）だが、相当数がすでに配備されている可能性が高い。

自律的にアカウントを運用し、人間のアカウントとも自然な会話ができるAIボットの検出は非常に困難であるため、検知されることが稀であるために話題にならないのであって実際には普及している可能性が高いのだ。

今回のAIのやらかしファクトチェックはこうした状況下で起きた。AIが情報を捏造、投稿、拡散し、ファクトチェックでさらに偽・誤情報を発信、拡散するというAI環境下での新しい偽・誤情報拡散サイクルができつつある。ロサンゼルス抗議活動にともなう一連の騒動でそれが可視化された。