ディープフェイクを超えた「AI汚染」の脅威──中国発「スロパガンダ」の正体

11月の中間選挙は地雷原になりかねない。上院や下院の候補者を標的にした捏造動画が制御されずに広がる可能性がある。

AI生成のロボコール（自動電話）が候補者の声で有権者に電話をかけることもあり得る。投票前夜に偽の「流出」映像が出回る可能性もある。たとえ虚偽と判明しても、影響は残り、投票率を押し下げたり、正当性への疑念をあおったりしかねない。

こうしたツールが中国国内で広く利用可能だとすれば、海外流出は必至だ。高度な生成システムは、オープンソースによる模倣や商業提携、あるいは並行開発を通じて急速に世界に拡散する。

こうした動きに最も関心を示すのは、ロシア、イラン、北朝鮮だろう。これらの政府は過去10年、米国とその同盟国を標的に、社会の分断をあおるオンライン偽情報を展開してきた。

選挙介入から文化戦争の増幅まで、これらの国々は多数派を説得するより社会の分断と不信を深め、亀裂を広げる方が効率的なことを知っている。

高精度のAI動画ツールを手にすれば、彼らの作戦は拡張性と説得力を高め、否定しにくいものになる。

狙いは必ずしも米国人に一つの大きな物語を信じ込ませることではない。制度そのものを圧倒すること――感情を煽る相反するコンテンツを大量に生み出し、有権者が何も信じられなくなる状況をつくることだ。