- HOME
- コラム
- デジタル権威主義とネット世論操作
- 「騙されるAI」0.001%の誤情報の混入で誤った…
「騙されるAI」0.001%の誤情報の混入で誤った回答を導く巨大な罠

Deemerwha studio -shutterstock-
<AIは誤情報にきわめて脆弱、人間よりもはるかに騙されやすい。やろうと思えばコストパフォーマンス高く汚染を実行し、AIを騙すことができる>
近年、AIの利用が拡大している一方で、AIが人を「騙す」ことも増えてきている。ハルシネーション(幻覚)はその代表例で、存在しない資料や人物、時には判例までもをでっちあげて、あたかもほんとうにあるかのように回答するのだ。
また、システム開発でAIにコードを生成させることも増えているが、そこでも存在しないパッケージを利用するといったハルシネーションが問題になっている。
しかし、逆にAIが騙される事例が増加していることはまだあまり知られていないようだ。
AIを手懐けるLLMグルーミング
LLMはラージ・ランゲージ・モデルの略で、ChatGPTなどの最近注目されているAIはLLMである。莫大なデータから学習している。
当然のことながら、学習のもとになるデータが正しくなければ回答も誤ったものとなる。信頼できないデータが混入することをデータ・ポイゾニングと呼び、よく「ゴミを入れればゴミが出る」と言われる。
人間が吟味した正しいデータだけ渡せばよいと考えるかもしれないが、人間がいちいち内容を吟味できるようなデータ量ではない。信頼できるようなデータ、たとえば科学論文のデータベースならよいかというと、そこには現在では誤っていることがわかっている過去の論文も多く含まれている。
大手メディアなら正しいわけでもなく、どのメディアでも誤報があるし、過去に報道した事実が新しい事実で更新されることもある。科学的事実も社会的事実も時とともに更新される以上、過去に正しいとされたものが「誤ったもの」になることは珍しくない。
しかし、人間はいちいち過去の記録に「更新済み」などと書き加えたりしない。やっかいなことに、新しい科学的事実や社会的事実は立証されるまで、誤りもしくは不正確な未検証のものとして扱われ、陰謀論扱いされることも少なくない。
認知戦で狙われているのは誰なのか?──影響工作の本当の標的 2025.09.03
民主主義をむしばむ「ハイブリッド脅威」──今そこにある見えない戦争 2025.07.25
「AIファクトチェック」はもはや幻想? 非常時に裏切るチャットボットの正体 2025.07.08
アメリカ発「陰謀論が主流に」──民主主義と情報の未来、日本は対岸の火事か? 2025.06.02
「騙されるAI」0.001%の誤情報の混入で誤った回答を導く巨大な罠 2025.05.05
トランプ政権下での言葉狩りで「過去の歴史は改ざん」...アメリカの新しい現実を理解しよう 2025.04.08
「2度の総選挙への干渉を経験」カナダの調査委員会が提示した偽・誤情報対策の衝撃 2025.02.21
-
外資系投資銀行のオフィス受付 想定年収322万円~・未経験可・土日祝休み/東京/土日祝休み
グローブシップ・ソデクソ・コーポレートサービス株式会社
- 東京都
- 月給23万円~30万円
- 正社員
-
外資系投資銀行の総合受付チームリーダー 土日祝休み 月25万円~ 千代田区 20代・30代活躍中
グローブシップ・ソデクソ・コーポレートサービス株式会社
- 東京都
- 月給25万円~35万7,000円
- 正社員
-
外資系製造業大手の総務アウトソーシングのアシスタン 永田町駅
株式会社スタッフサービス ITソリューション
- 東京都
- 月給23万5,000円~
- 正社員
-
外資系企業のケータリングサービス 年休120日・土日祝休み・賞与あり/港区 20代・30代活躍中
グローブシップ・ソデクソ・コーポレートサービス株式会社
- 東京都
- 月給23万円~25万円
- 正社員