ウェブを駆使するテロ組織...生成AIが生み出す「新時代のプロパガンダ」

AIの発展で脅威はさらに拡大する可能性

ギンズバーグ氏は、「もちろん」AIが発展するにつれて、テロの脅威も増大すると指摘する。「なぜなら、AIの制御が不可能になりつつあるからだ」と述べた。

「ここ数カ月前までは、アメリカの若者が利用する主流の暗号化・非暗号化プラットフォームにアクセスできていた」とギンズバーグ氏は本誌に語る。

「しかし、脅威レベルはますます悪化している。ADL（名誉毀損防止同盟）を含め、誰もがそれを認識しているが、実際に何か対策を講じているのか？」

オープンソース情報を用いた新興技術の研究を行うThe Soufan Groupのアナリスト、クララ・ブローカート氏は本誌に対し、「生成AIは、テロ組織にとって特定のニーズを満たすものでなければならない」と述べた。

ブローカート氏によれば、「非常に初期の段階から」、生成AIや合成コンテンツの作成は、極右、ネオナチ、反政府加速主義（アナーキスト）グループなど、過激派組織によって実験的に導入されていた。

「彼らのプロパガンダ活動において、生成AIは非常に有益だった」とブローカート氏は説明する。

「オンライン上の広大なネットワークを対象に、大量のプロパガンダを翻訳し、拡散することが可能になった。中央アジアの多言語地域から、西洋、南部のソマリア、モザンビークに至るまで、AIはその伝播を助けている」

ブローカート氏はCoalition for a Safer Webの見解に同意し、「生成AIはプロパガンダを検出しにくくする」と指摘した。しかし、テロ組織のプロパガンダ戦略そのものを大きく変革するほどの「決定的な要素ではない」との見解も示した。

「彼らはオンライン上で攻撃を扇動し続けているが、その多くはAIを使わずに行われている」とブローカート氏は述べる。「したがって、現時点ではテロ活動に直接的な影響を与えるとは考えにくい。しかし、今後、強力な予測分析機能が開発されれば、テロ組織の計画立案に大いに役立つ可能性がある」

ブローカート氏によると、AIは大規模言語モデル（LLM）を活用した情報収集を容易にする。例えば、2024年の元旦にラスベガスのトランプ・インターナショナル・ホテルで発生した襲撃事件では、実行犯がAIを用いてさまざまな情報を収集していたと指摘されている。

これは、テロ対策をさらに困難にする要因の一つとなっている。ChatGPTのような商用モデルは安全対策が施されているが、オープンソースのLLMは必ずしも適切に制御されておらず、テロ組織によって悪用される可能性が高いとブローカート氏は警告する。