<人間をだますのではなく、AIに「都合のいい答え」を返させる──。ChatGPTなどの回答に自らの情報を入り込ませるアンサーエンジン最適化(AEO)が、新たな影響工作の手法として浮上している>
2026年8月、米国のシンクタンクを名乗る「ハノーバー研究所(Hanover Institute for Public Policy)」が、開設から1か月足らずで100本以上の記事を公開していたと404 Mediaが報じた。
ハノーバー研究所は大規模言語モデル(LLM)に読ませる内容を生成してチャットボットの回答をイスラエル寄りに調整する目的で設計されたようにみえる、と同メディアは書いている。
狙いは人間の読者よりも、ChatGPTやGeminiが回答を組み立てるときに拾い上げる情報源の座にあるのだろう。
1年前のコラム「騙されるAI」でLLMグルーミング(LLMの学習や参照のもとになる情報に都合のよい内容を大量に混ぜ、AIにその内容を答えさせる手法)をご紹介した。Pravdaネットワーク(親露的な内容を多言語のサイト群で大量に配信するロシアの影響工作ネットワーク)がAI回答を汚染する話だった。
今回、ご紹介するのは、AIが回答を組み立てるときに参照する情報や、AIモデルそのものを汚染する問題だ。この種の工作は、拡散やエンゲージメント(閲覧や反応の量)で脅威を測る従来の認知戦(相手の認識と意思決定に働きかける戦い)のレポートでは、ほとんど検知できない。
意思決定でAIを利用する場面が増えるにつれ、アンサーエンジン最適化(Answer Engine Optimization)と呼ばれる手法の重要性が注目されるようになってきた。アンサーエンジン最適化とはAIに質問した際の回答に意図した情報を含めさせることであり、AIのSEOのようなものに近い。この手法によって重要な意思決定を操ることができる可能性がある。
エンゲージメントからは見えない汚染
認知戦やFIMI(外国からの情報操作と干渉)の多くのレポートは、拡散、エンゲージメント、アカウント数で脅威を測ってきた。仮創研(LLMによる思考実験・調査分析を行っている組織)が、欧米を中心とする36機関の認知戦、FIMIのレポート672件を24の評価項目で採点した統合メタデータセットがある。
AIの悪用とモデル汚染を扱う項目では、言及がまったくないレポートが422件、全体の63%を占めた。モデル汚染そのものを中心に実証したレポートは8件、1.2%しかない。名前の特定された工作網によるAI経由の汚染を追跡したものを足しても22件である。
8件はNewsGuardが5件、デジタルフォレンジック・リサーチラボ(DFRLab、大西洋評議会の調査部門)が2件、スウェーデン心理防衛庁の資金でChina Media Project(中国メディアを研究する独立の組織)が執筆した報告書が1件で、作成主体は3つしかない。
2026年6月に欧米13機関の認知戦レポート507本を分析し、多くの専門家がナラティブ(流布する言説)や発信者の特定に偏り、資金、ボット、増幅ネットワークといった作戦の基盤を見落としていることをご紹介した。標的がAIの回答へ移ると死角はさらに広がる。
OpenAIは2026年8月25日、ロシア発のアカウント群による工作を遮断したと発表し、到達した聴衆は比較的少なかったとみられると述べたうえで、「この作戦の重要性は、到達した聴衆よりも、それが築いた基盤にある」と書いている。到達数で測る限り、この種の工作は脅威として認識されにくいのだ。
代表的な2つの事例をご紹介しよう。