軍事的な行動は「AIが決める」時代に…人間の指揮官では「戦争に負ける」という事実

戦争では意思決定の速さが勝敗を左右する

AIが戦争に導入されていることは、戦い方に革命をもたらしつつある。第1に、AIシステムは従来の参謀組織や指揮統制システムにほぼ取って代わる。これは軍隊の組織や戦争遂行の在り方を根本から変える構造的な変化であり、避けることはできない。人間中心の参謀組織から脱却して進化できた軍隊だけが、戦場で生き残れる可能性がある。

戦争では意思決定の速さが勝敗を左右する。そのため意思決定は自動化される。政府や軍の指導者は、最初に大まかな目標を設定できるが、戦況に応じてリアルタイムで指示を出したり、熟慮する時間はなくなる。人間によるOODAループは目標を決める意思決定だけに圧縮され、残りはAIシステムが担うことになる。

こうした変化は、戦争そのものの姿も変える。AIがOODAループの役割を担うにつれて、戦争はチェスのように一手を読み合うものではなく、絶えず変化する複雑な「エコシステム」へと変わっていく。その結果、人間は人命を奪う判断だけでなく、戦争遂行の大部分についても統制を失っていく。これは、AIを戦争でどのように使うべきかをめぐる議論で最も注目されてきた、自律的な殺傷判断の問題をはるかに超えた変化である。

AIをはじめあらゆるコンピューターシステムと、それを開発・運用する人間は、設計上の想定を超えた環境で起きる「エッジケース」にも対処しなければならない。そうした事態が起きても、人間の指揮官が直接、状況を評価し、判断を下し、行動することはない。

人間は形式上は監督者であり続けるが、実際には状況を見守ることしかできない。人間が最初に与えた目標を達成する過程でAIが何を行うのかさえ、把握できなくなるかもしれない。