コラム

「騙されるAI」0.001%の誤情報の混入で誤った回答を導く巨大な罠

2025年05月05日(月)10時46分
「騙されるAI」0.001%程度の誤情報の混入が誤った回答を導く

Deemerwha studio -shutterstock-

<AIは誤情報にきわめて脆弱、人間よりもはるかに騙されやすい。やろうと思えばコストパフォーマンス高く汚染を実行し、AIを騙すことができる>

近年、AIの利用が拡大している一方で、AIが人を「騙す」ことも増えてきている。ハルシネーション(幻覚)はその代表例で、存在しない資料や人物、時には判例までもをでっちあげて、あたかもほんとうにあるかのように回答するのだ。

また、システム開発でAIにコードを生成させることも増えているが、そこでも存在しないパッケージを利用するといったハルシネーションが問題になっている。

しかし、逆にAIが騙される事例が増加していることはまだあまり知られていないようだ。


AIを手懐けるLLMグルーミング

LLMはラージ・ランゲージ・モデルの略で、ChatGPTなどの最近注目されているAIはLLMである。莫大なデータから学習している。

当然のことながら、学習のもとになるデータが正しくなければ回答も誤ったものとなる。信頼できないデータが混入することをデータ・ポイゾニングと呼び、よく「ゴミを入れればゴミが出る」と言われる。

人間が吟味した正しいデータだけ渡せばよいと考えるかもしれないが、人間がいちいち内容を吟味できるようなデータ量ではない。信頼できるようなデータ、たとえば科学論文のデータベースならよいかというと、そこには現在では誤っていることがわかっている過去の論文も多く含まれている。

大手メディアなら正しいわけでもなく、どのメディアでも誤報があるし、過去に報道した事実が新しい事実で更新されることもある。科学的事実も社会的事実も時とともに更新される以上、過去に正しいとされたものが「誤ったもの」になることは珍しくない。

しかし、人間はいちいち過去の記録に「更新済み」などと書き加えたりしない。やっかいなことに、新しい科学的事実や社会的事実は立証されるまで、誤りもしくは不正確な未検証のものとして扱われ、陰謀論扱いされることも少なくない。

プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』(集英社)『天才ハッカー安部響子と五分間の相棒』(集英社)『フェイクニュース 新しい戦略的戦争兵器』(角川新書)『ネット世論操作とデジタル影響工作』(共著、原書房)など著作多数。X(旧ツイッター)。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所。

あわせて読みたい
ニュース速報

ワールド

トランプ氏、AI・エネルギーに700億ドル投資へ 

ビジネス

英中銀総裁「不確実性が成長を圧迫」、市場混乱リスク

ビジネス

米関税措置、国内雇用0.2%減 実質所得も減少=S

ワールド

ゼレンスキー氏、スビリデンコ第1副首相を新首相に指
あわせて読みたい
MAGAZINE
特集:AIの6原則
特集:AIの6原則
2025年7月22日号(7/15発売)

加速度的に普及する人工知能に見えた「限界」。仕事・学習で最適化する6つのルールとは?

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    「史上最も高価な昼寝」ウィンブルドン屈指の熱戦中にまさかの居眠り...その姿がばっちり撮られた大物セレブとは?
  • 2
    真っ赤に染まった夜空...ロシア軍の「ドローン700機」に襲撃されたキーウ、大爆発の瞬間を捉えた「衝撃映像」
  • 3
    どの学部の卒業生が「最も稼いでいる」のか? 学位別「年収ランキング」を発表
  • 4
    エリザベス女王が「うまくいっていない」と心配して…
  • 5
    「お腹が空いていたんだね...」 野良の子ネコの「首…
  • 6
    【クイズ】次のうち、生物学的に「本当に存在する」…
  • 7
    千葉県の元市長、「年収3倍」等に惹かれ、国政に打っ…
  • 8
    「ベンチプレス信者は損している」...プッシュアップ…
  • 9
    イギリスの鉄道、東京メトロが運営したらどうなる?
  • 10
    日本より危険な中国の不動産バブル崩壊...目先の成長…
  • 1
    「ベンチプレス信者は損している」...プッシュアップを極めれば、筋トレは「ほぼ完成」する
  • 2
    「弟ができた!」ゴールデンレトリバーの初対面に、ネットが感動の渦
  • 3
    「お腹が空いていたんだね...」 野良の子ネコの「首」に予想外のものが...救出劇が話題
  • 4
    日本企業の「夢の電池」技術を中国スパイが流出...AP…
  • 5
    千葉県の元市長、「年収3倍」等に惹かれ、国政に打っ…
  • 6
    どの学部の卒業生が「最も稼いでいる」のか? 学位別…
  • 7
    イギリスの鉄道、東京メトロが運営したらどうなる?
  • 8
    エリザベス女王が「うまくいっていない」と心配して…
  • 9
    完璧な「節約ディズニーランド」...3歳の娘の夢を「…
  • 10
    トランプ関税と財政の無茶ぶりに投資家もうんざり、…
  • 1
    「コーヒーを吹き出すかと...」ディズニーランドの朝食が「高額すぎる」とSNSで大炎上、その「衝撃の値段」とは?
  • 2
    「あまりに愚か...」国立公園で注意を無視して「予測不能な大型動物」に近づく幼児連れ 「ショッキング」と映像が話題に
  • 3
    10歳少女がサメに襲われ、手をほぼ食いちぎられる事故...「緊迫の救護シーン」を警官が記録
  • 4
    JA・卸売業者が黒幕説は「完全な誤解」...進次郎の「…
  • 5
    ディズニー・クルーズラインで「子供が海に転落」...…
  • 6
    気温40℃、空港の「暑さ」も原因に?...元パイロット…
  • 7
    燃え盛るロシアの「黒海艦隊」...ウクライナの攻撃で…
  • 8
    「小麦はもう利益を生まない」アメリカで農家が次々…
  • 9
    イランを奇襲した米B2ステルス機の謎...搭乗した専門…
  • 10
    「うちの赤ちゃんは一人じゃない」母親がカメラ越し…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story