「AIファクトチェック」はもはや幻想？ 非常時に裏切るチャットボットの正体

CL STOCK -shutterstock-

＜米国で拡散した抗議デマ、偽の兵士画像、陰謀論――真偽を確かめようとAIに頼った人々が得たのは、さらに深い混乱だった＞

現在、アメリカ各地――とくにロサンゼルスを中心に――で、トランプ政権に反対する抗議活動が広がっている。このような社会的混乱に乗じて、陰謀論や偽情報がSNS上で次々と投稿されている状況である。

厄介なのは、アメリカの主要SNSプラットフォームがここ数年、「表現の自由」の名のもとに投稿のモデレーション（監視）を緩めてきた点である。これにより、本来なら削除されていたはずの虚偽情報が削除されずに拡散されてしまうケースが増えている。

ボロを出したAIチャットボット

抗議活動をめぐるSNS投稿を見て、「この情報は本当なのか？」と疑問を抱いた人々も多い。そのようなユーザーは、真偽を確かめるためにGrokやChatGPTといったAIチャットボットに確認を依頼するようになってきた。

以前はGoogleなどの検索エンジンを使っていたが、現在では、要点をまとめて即座に回答してくれるAIチャットボットが広く利用されているのである。

さらに事態をややこしくしているのが、AIが生成した偽の画像や映像の急増である。ニュースやSNSで流れる事件・事故の画像を見ても、それがAIによって作られたフェイクである可能性が常につきまとうようになった。

その結果、逆に本物の画像すら「AI生成の偽画像ではないか」と疑われる事態も多発している。

実際、今回の抗議活動でもそのような混乱が起きている。たとえば、サンフランシスコ・クロニクル誌が兵士の写真（本物）を掲載し、それをカリフォルニア州知事がX（旧Twitter）で共有したところ、「この写真はAIが作った偽画像だ」との批判が相次いだ。

この写真について、一部のユーザーがXのAIチャットボット「Grok」や「ChatGPT」に真偽を尋ねたところ、両者とも「偽画像である可能性が高い」と回答した。繰り返すが、この写真は完全に本物であった。後日、Grokは誤りを認め、謝罪していることがTIME誌によって報じられている。