コラム

「騙されるAI」0.001%の誤情報の混入で誤った回答を導く巨大な罠

2025年05月05日(月)10時46分
「騙されるAI」0.001%程度の誤情報の混入が誤った回答を導く

Deemerwha studio -shutterstock-

<AIは誤情報にきわめて脆弱、人間よりもはるかに騙されやすい。やろうと思えばコストパフォーマンス高く汚染を実行し、AIを騙すことができる>

近年、AIの利用が拡大している一方で、AIが人を「騙す」ことも増えてきている。ハルシネーション(幻覚)はその代表例で、存在しない資料や人物、時には判例までもをでっちあげて、あたかもほんとうにあるかのように回答するのだ。

また、システム開発でAIにコードを生成させることも増えているが、そこでも存在しないパッケージを利用するといったハルシネーションが問題になっている。

しかし、逆にAIが騙される事例が増加していることはまだあまり知られていないようだ。


AIを手懐けるLLMグルーミング

LLMはラージ・ランゲージ・モデルの略で、ChatGPTなどの最近注目されているAIはLLMである。莫大なデータから学習している。

当然のことながら、学習のもとになるデータが正しくなければ回答も誤ったものとなる。信頼できないデータが混入することをデータ・ポイゾニングと呼び、よく「ゴミを入れればゴミが出る」と言われる。

人間が吟味した正しいデータだけ渡せばよいと考えるかもしれないが、人間がいちいち内容を吟味できるようなデータ量ではない。信頼できるようなデータ、たとえば科学論文のデータベースならよいかというと、そこには現在では誤っていることがわかっている過去の論文も多く含まれている。

大手メディアなら正しいわけでもなく、どのメディアでも誤報があるし、過去に報道した事実が新しい事実で更新されることもある。科学的事実も社会的事実も時とともに更新される以上、過去に正しいとされたものが「誤ったもの」になることは珍しくない。

しかし、人間はいちいち過去の記録に「更新済み」などと書き加えたりしない。やっかいなことに、新しい科学的事実や社会的事実は立証されるまで、誤りもしくは不正確な未検証のものとして扱われ、陰謀論扱いされることも少なくない。

プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』(集英社)『天才ハッカー安部響子と五分間の相棒』(集英社)『フェイクニュース 新しい戦略的戦争兵器』(角川新書)『ネット世論操作とデジタル影響工作』(共著、原書房)など著作多数。X(旧ツイッター)。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所。

あわせて読みたい
ニュース速報

ビジネス

中国発の格安ネット通販、90日間の関税猶予中に米在

ワールド

米下院共和党、気候変動対策費を大幅削減へ トランプ

ワールド

スターマー英首相私邸で不審火、建物一部損傷 ロンド

ビジネス

午前の日経平均は続伸、3万8000円回復 米中摩擦
あわせて読みたい
MAGAZINE
特集:2029年 火星の旅
特集:2029年 火星の旅
2025年5月20日号(5/13発売)

トランプが「2029年の火星に到着」を宣言。アメリカが「赤い惑星」に自給自足型の都市を築く日

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    心臓専門医が「絶対に食べない」と断言する「10の食品」とは?...理想は「1825年の食事」
  • 2
    カヤック中の女性がワニに襲われ死亡...現場動画に映った「殺気」
  • 3
    ゴルフ場の近隣住民に「パーキンソン病」多発...原因は農薬と地下水か?【最新研究】
  • 4
    母「iPhone買ったの!」→娘が見た「違和感の正体」に…
  • 5
    シャーロット王女の「親指グッ」が話題に...弟ルイ王…
  • 6
    「出直し」韓国大統領選で、与党の候補者選びが大分…
  • 7
    使うほど脱炭素に貢献?...日建ハウジングシステムが…
  • 8
    「がっかり」「私なら別れる」...マラソン大会で恋人…
  • 9
    あなたの下駄箱にも? 「高額転売」されている「一見…
  • 10
    ハーネスがお尻に...ジップラインで思い出を残そうと…
  • 1
    心臓専門医が「絶対に食べない」と断言する「10の食品」とは?...理想は「1825年の食事」
  • 2
    健康は「何を食べないか」次第...寿命を延ばす「5つの指針」とは?
  • 3
    脂肪は自宅で燃やせる...理学療法士が勧める「3つの運動」とは?
  • 4
    5月の満月が「フラワームーン」と呼ばれる理由とは?
  • 5
    部下に助言した時、返事が「分かりました」なら失敗…
  • 6
    シャーロット王女の「親指グッ」が話題に...弟ルイ王…
  • 7
    使うほど脱炭素に貢献?...日建ハウジングシステムが…
  • 8
    ロシア機「Su-30」が一瞬で塵に...海上ドローンで戦…
  • 9
    カヤック中の女性がワニに襲われ死亡...現場動画に映…
  • 10
    ついに発見! シルクロードを結んだ「天空の都市」..…
  • 1
    心臓専門医が「絶対に食べない」と断言する「10の食品」とは?...理想は「1825年の食事」
  • 2
    日本史上初めての中国人の大量移住が始まる
  • 3
    日本旅行が世界を魅了する本当の理由は「円安」ではない
  • 4
    脂肪は自宅で燃やせる...理学療法士が勧める「3つの…
  • 5
    間食はなぜ「ナッツ一択」なのか?...がん・心疾患・抜…
  • 6
    健康は「何を食べないか」次第...寿命を延ばす「5つ…
  • 7
    「2025年7月5日に隕石落下で大災害」は本当にあり得…
  • 8
    【クイズ】世界で最も「半導体の工場」が多い国どこ…
  • 9
    【クイズ】世界で2番目に「軍事費」が高い国は?...1…
  • 10
    MRI検査で体内に「有害金属」が残留する可能性【最新…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story