AI兵器vs AI兵器の戦争は人知を超える（キッシンジャー＆エリック・シュミット）

自律編隊飛行プログラムで飛ぶNASAの実験機　NASA

＜「核より恐ろしい」――既に囲碁やチェスで人間を置き去りにしたAIの知性は、戦争をここまで残酷にする。ヘンリー・キッシンジャー元国務長官とエリック・シュミット元グーグルCEOらの新著から＞

人工知能（AI）が戦場に出たらどうなるか。もう人間の出番はなくなるのか。

この究極の問いに、アメリカを代表する戦略家であるヘンリー・キッシンジャー（元国務長官）とAI最前線に詳しいエリック・シュミット（元グーグルCEO）、そしてMITシュワルツマン・カレッジ・オブ・コンピューティング学部長のダニエル・ハッテンロッカーが共著『AIの時代、そして人類の未来（The Age of AI: AndOur Human Future）』で挑み、やはり人間の関与が不可欠との結論を導いた。

以下はその要約。

◇　◇　◇

人類の歴史を通じて、国家の政治的影響力は軍事力、すなわち他国の社会に損害を与える能力と結び付いてきた。

だが軍事力に基づく均衡は一定ではない。その均衡が依拠するコンセンサスは、何をもって国力・軍事力・影響力とするかだが、均衡を決定づける力の本質について当事者の意見が分かれると、誤解によって紛争が起きかねない。

近年、コンセンサスの形成を難しくしているのがサイバー兵器の出現だ。こうした技術は民生部門でも用いられるため、何をもって兵器と呼ぶかの定義も定まらない。サイバー兵器の保有やその能力を認めない国が、そうした技術で軍事力を行使、あるいは増強している例もある。

何をもって紛争と呼ぶか、敵が誰で、敵の戦闘能力はどれくらいかなど、伝統的な戦略上の常識が、デジタルの世界では通用しない。

エリック・シュミットとヘンリー・キッシンジャー　SPENCER BROWN (LEFT), JURGEN FRANK (RIGHT)

現代が抱える大きな矛盾は、社会のデジタル化が進めば進むほど、脆弱性が増す点にある。通信網や発電所、電力網、金融市場、大学、病院、公共交通機関、そして民主的な政治の仕組みすら、多かれ少なかれデジタルに依存するようになっているが、こうしたシステムは不正操作が行われやすく、攻撃にも弱い。

国家であれテロ組織であれ、サイバー攻撃の仕掛け人は自らの能力や活動の全容を明らかにしない。だから新たな能力が開発されても、戦略も行動原理も見えてこない。

ただでさえ複雑なサイバー兵器にAIが本格導入されれば、戦略決定はますます複雑になり、人間の意図はおろか理解さえも及ばなくなる危険性を秘めている。

昔から戦争は不確かで予測不能なものだ。だが戦争を導いてきた論理もさまざまな限界も、これまでは人間が生んだものだった。

しかしAIのアルゴリズムは人間の能力をはるかに超えて複雑なパターンを特定し、あるいは予測できる。だからAIは人間の手に負えない問題を解決し、戦略を立てることができる。

囲碁やチェスの世界では、グーグル傘下のディープマインドが開発したAIプログラムが、専門家も驚くような戦略で人間に勝利したが、安全保障の分野でも同じことが起き得る。その可能性は十分にある。

軍隊や治安当局がAIを訓練、またはAIと連携して予想外の見識や影響力を獲得すれば、驚くと同時に不安な事態にもなるだろう。