ウェブを駆使するテロ組織...生成AIが生み出す「新時代のプロパガンダ」

生成AI利用で「身元を隠す」ことが安易に

2024年10月7日のハマス攻撃の1周年を迎えた後、Coalition for a Safer Webは、ISISやアルカイダが運営する多数のウェブサイトを確認。そこには、生成AIを活用した動画やプログラム、さらにはガザ地区の破壊や負傷したパレスチナ人の画像を用いたミームが掲載されていた。このようなコンテンツは、アメリカ国内のローンウルフ型のテロリストを引き付け、イスラエルの支持者、特にユダヤ人コミュニティに対する報復行為を扇動するために操作されているという。

2024年半ば以降、ISISとアルカイダはプロパガンダ活動を強化し、生成AI技術を取り入れていることが、ギンズバーグ氏とそのチームの調査で判明した。AIを活用することで、極端に洗練されたプロパガンダが作成され、さらにアルゴリズムの操作やSNS上のコンテンツへの侵入が可能となり、反ユダヤ的な行動を扇動する役割を果たしている。

「生成AIは、ISISとアルカイダが互いに覇権を争う戦略の一環として悪用されている」とギンズバーグ氏は本誌に語る。「彼らはガザ戦争を利用し、アメリカ国内に潜伏する支持者を扇動・勧誘しているが、組織のメンバーを直接アメリカに送り込むつもりはないようだ」

さらに、Coalition for a Safer Webは、AIソフトウェア開発者やコンテンツ制作者を募集する「求人広告」まで発見した。生成AIを活用したニュース番組は、アメリカ英語の音声をクローンし、若年層をターゲットにしたコンテンツを作成。これにより、若年層が影響を受け、潜在的なテロ攻撃を引き起こす可能性があると懸念されている。

また、生成AIの利用によって、ISISやアルカイダのウェブサイトは身元を隠しながら活動できるようになっているという。

Coalition for a Safer Webの調査によれば、『The Wolves of Manhattan（マンハッタンの狼）』『Mujahideen in the West（西洋のムジャヒディン）』『Voice of Khurasan（ホラーサーンの声）』といった出版物には、サイバー・プロパガンダの活用方法を解説するマニュアルやハウツーガイドが掲載されている。

ギンズバーグ氏は、TikTok、Instagram、X（旧Twitter）、YouTubeといったプラットフォームが「ハニートラップ」の役割を果たしていることを指摘。「これらのプラットフォームではコンテンツの監視が終了しているため、ISISやアルカイダが反ユダヤ的なコンテンツをより容易に拡散できる」と警鐘を鳴らした。

「新たなソフトウェア技術が登場するたびに、それが暗号化であれ、主要SNSのコンテンツ管理の終了であれ、テロ組織はあらゆる手段を駆使してそのシステムの穴を突こうとする」とギンズバーグ氏は述べた。「今回特に厄介なのは、我々が傍受したコンテンツが直接特定の発信源へと結びつく証拠を残さないことだ」

さらに調査では、「ターゲット特定パッケージ」と呼ばれるデータが発見された。そこには、ニューヨーク、マイアミ、シカゴ、デトロイトといったアメリカの都市にあるユダヤ人センターの写真や動画に加え、シドニー、メルボルン、トロントのユダヤ人施設の情報も含まれていたという。