＜世界情勢に桁外れの影響を及ぼす「制限なき生成AI」の脅威を取り上げたアニメーション動画の内容を一部紹介する＞
「チャットGPT」をはじめとする生成AIを駆使すれば、敵国の世論にひそかに影響を与えて社会を揺さぶることができる。各国の情報機関や悪意あるアクターが、こうしたAIシステムを積極的に利用することで世界はますます危険な場所になろうとしている。
元CIA諜報員で本誌コラムニストのグレン・カールが「生成AIはスパイ組織の夢のツール」と明言する理由とは──。
本記事では、本誌YouTubeチャンネルの動画「【ChatGPT】世論操作も余裕...「生成AIはスパイ組織にとって夢のツール」【アニメで解説】」の内容をダイジェスト的に紹介する。
生成AIの脅威について専門家が警鐘を鳴らす中、各国の情報機関は劣勢に立たされる不安から競ってこの最新技術を使おうとしている。
情報機関は伝統的に、自らが広めたい説を裏付ける作り話や噂を広めることで、ターゲットとなる人々の意見や主張を変えようとしてきた。
1953年には、イランで親欧米的なモハマド・レザ・パーレビ国王を権力の座に就けるべく、CIAとイギリスの情報機関が協力して激しい宣伝工作を展開。その結果、モハンマド・モサデク首相を失脚させるための数千人のデモ隊をわずかなコストで出現させることができた。
生成AIの影響はその数千倍にもなるとみられる。
ターゲットの特性に合わせたチャットボット（自動会話プログラム）を作って、同じ意見や主張をいくつもの表現方法で世の中にあふれ返させることができれば、社会の幅広い層が同じ意見を抱いているような錯覚を生み出すこともできる。
説得力のある噂や誤り、嘘が無数のボットから流されることで真偽の識別は一層困難になる。専門家や政府、メディアへの国民の警戒心や冷笑的態度はさらに強まるだろう。
メディアリテラシーの向上や全ての生成AIへの「識別子」義務付け、政府による規制など、リスク軽減の手段はあるものの、その効果は限定的だ。
生成AIによる工作は、2016年の米大統領選でロシアが行った偽情報作戦、19年の香港デモで中国政府が展開したソーシャルメディア上での膨大な数のプロパガンダ投稿など、過去の事例と比べても桁外れに強力なものになることが予想されている。
■詳しくは動画をご覧ください。
