CIA元諜報員が「生成AIはスパイ組織の夢のツール」と明言する理由

逃亡犯条例改正案など中国政府による統治強化に抗議する香港のデモ隊（2019年6月9日）　TYRONE SIUｰREUTERS

■2019年香港　この年、数百万人の民主派が中国政府による全体主義的統治の押し付けに反対して大規模なデモを繰り広げた。中国の情報機関はソーシャルメディアで偽情報を駆使してデモ隊の暴力を誇張し、彼らの信用を落とし、香港情勢に対する中国国内と国際社会の認識を変えようとした。

中国政府は200万人とも言われる工作員を雇ってプロパガンダをソーシャルメディアに投稿させ、4億4800万件のコメントを捏造したという。そして香港は自由を失った。

生成AIによる工作はこの2つに比べても、桁外れに強力なものになるだろう。

不完全だが、そのリスクを軽減する手段はいくつかある。メディアリテラシー向上、全ての生成AIへの「識別子」義務付け、ソーシャルメディアプラットフォームにおける本人確認の必須化、オープンAIのアルトマンが米議会で呼びかけたような政府による生成AIへの規制。ただし、いずれも効果は限定的で、プライバシーや言論の自由、効率性の低下に関わる問題を引き起こす。

これは私見だが、16年のアメリカや19年の香港よりもはるかにひどい情報操作のリスクに対抗するため、何らかの形で政府が生成AIを規制する段階に来ていると思う。「制限なき生成AI」は全体主義体制の情報機関に悪用される危険と背中合わせだ。それがもたらす未来は過去の秘密工作が前時代の遺物に見えるレベルで、真実と自由と民主主義を危険にさらすだろう。