コラム

「騙されるAI」0.001%の誤情報の混入で誤った回答を導く巨大な罠

2025年05月05日(月)10時46分

さらに悪いことに、医療用LLMを調査した結果、学習データに0.001%程度の誤情報が混入しただけで誤った回答をするようになることがわかった。

これは100億のデータに対して10の誤データ、1,000億のデータに対して100の誤データを混入さしていると誤った答えを出すことを意味する。やろうと思えばコストパフォーマンス高く汚染を実行し、AIを騙すことができる。AIは誤情報にきわめて脆弱、人間よりもはるかに騙されやすいと言える。

誤情報に脆弱であるというAIの弱点を利用して、自国に都合のよいプロパガンダを大量にネットに拡散し、人々がAIに質問した際、プロパガンダを答えるように仕向けるのがLLMグルーミングと呼ばれる手法だ。

近年、このLLMグルーミングが広がっており、よく使用されている主要なAIのほとんどが特定のテーマについてロシアのプロパガンダに影響された回答を行うようになっている。


この傾向は特にロシア語で質問した際、顕著に表れる。

たとえば、アメリカのNewsGuard社が昨年行った調査によると、ChatGPT-4やClaudeなどトップ10の主要AIチャットボットにそれぞれ57のプロンプトでテストした結果、32%の回答がロシアの偽情報に関係する内容を答えることが判明した。

また、AIに対して、クリミアの帰属について訊ねたところロシア語での質問には「ロシア」と答え、ウクライナ語での質問には「ウクライナ」と答えた。

さらに台湾についても同様でプロンプト次第で、簡体字には中国、繁体字には台湾と答えたことが、「This Land is Your, My Land: Evaluating Geopolitical Bias in Language Models through Territorial Disputes」という論文で確認されている。

AIがLLMグルーミングによって「騙されて」しまう背景には、ロシアの仕掛けた巨大な罠がある。ロシアは多数のWEBサイト、SNSアカウントなどを通じて親露的なプロパガンダを拡散するPravdaネットワークを構築していた。

Pravdaネットワークは80以上の地域と国に広がっており、それぞれの国の言語に自動翻訳されている。日本語もターゲットになっている。Wikipediaも汚染されており、44の言語、1,672ページの1,907のハイパーリンクが162のPravdaネットワークのWEBにつながっていた。

プロフィール

一田和樹

複数のIT企業の経営にたずさわった後、2011年にカナダの永住権を取得しバンクーバーに移住。同時に小説家としてデビュー。リアルに起こり得るサイバー犯罪をテーマにした小説とネット世論操作に関する著作や評論を多数発表している。『原発サイバートラップ』(集英社)『天才ハッカー安部響子と五分間の相棒』(集英社)『フェイクニュース 新しい戦略的戦争兵器』(角川新書)『ネット世論操作とデジタル影響工作』(共著、原書房)など著作多数。X(旧ツイッター)。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所。

あわせて読みたい
ニュース速報

ビジネス

エアバス、天津に新たな組立ライン開設へ 米中間でバ

ビジネス

日経平均は小反落で寄り付く、連騰の反動で利益確定売

ビジネス

貿易収支、9月は2346億円の赤字 対米輸出が6カ

ワールド

北朝鮮が東方に弾道ミサイル発射、5月以来 韓国軍発
あわせて読みたい
MAGAZINE
特集:脳寿命を延ばす20の習慣
特集:脳寿命を延ばす20の習慣
2025年10月28日号(10/21発売)

高齢者医療専門家の和田秀樹医師が説く――脳の健康を保ち、認知症を予防する日々の行動と心がけ

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    【クイズ】ヒグマの生息数が「世界で最も多い国」はどこ?
  • 2
    今年、記録的な数の「中国の飲食店」が進出した国
  • 3
    TWICEがデビュー10周年 新作で再認識する揺るぎない「パイオニア精神」
  • 4
    【クイズ】日本でツキノワグマの出没件数が「最も多…
  • 5
    米軍、B-1B爆撃機4機を日本に展開──中国・ロシア・北…
  • 6
    【クイズ】12名が死亡...世界で「最も死者数が多い」…
  • 7
    「認知のゆがみ」とは何なのか...あなたはどのタイプ…
  • 8
    本当は「不健康な朝食」だった...専門家が警告する「…
  • 9
    汚物をまき散らすトランプに『トップガン』のミュー…
  • 10
    増える熟年離婚、「浮気や金銭トラブルが原因」では…
  • 1
    1000人以上の女性と関係...英アンドルー王子、「称号返上を表明」も消えない生々しすぎる「罪状」
  • 2
    【クイズ】ヒグマの生息数が「世界で最も多い国」はどこ?
  • 3
    【クイズ】日本でツキノワグマの出没件数が「最も多い県」はどこ?
  • 4
    今年、記録的な数の「中国の飲食店」が進出した国
  • 5
    まるで『トップガン』...わずか10mの至近戦、東シナ…
  • 6
    フィリピンで相次ぐ大地震...日本ではあまり報道され…
  • 7
    本当は「不健康な朝食」だった...専門家が警告する「…
  • 8
    日本で外国人から生まれた子どもが過去最多に──人口…
  • 9
    「心の知能指数(EQ)」とは何か...「EQが高い人」に…
  • 10
    お腹の脂肪を減らす「8つのヒント」とは?...食事以…
  • 1
    かばんの中身を見れば一発でわかる!「認知症になりやすい人」が持ち歩く5つのアイテム
  • 2
    「大谷翔平の唯一の欠点は...」ドジャース・ロバーツ監督が明かすプレーオフ戦略、監督の意外な「日本的な一面」とは?
  • 3
    増加する「子どもを外注」する親たち...ネオ・ネグレクトとは何か? 多い地域はどこか?
  • 4
    1000人以上の女性と関係...英アンドルー王子、「称号…
  • 5
    悲しみで8年間「羽をむしり続けた」オウム...新たな…
  • 6
    バフェット指数が異常値──アメリカ株に「数世代で最…
  • 7
    「日本の高齢化率は世界2位」→ダントツの1位は超意外…
  • 8
    お腹の脂肪を減らす「8つのヒント」とは?...食事以…
  • 9
    【クイズ】ヒグマの生息数が「世界で最も多い国」は…
  • 10
    【クイズ】日本人が唯一「受賞していない」ノーベル…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story