AIが世界を征服する時…専門家が筋書きを予測、人類を待ち受ける「結末」とは

ヤンポルスキーの予想では、AIシステムはすぐに人間を攻撃したり、目に見える形で社会を混乱に陥れたりはしない。まずは信頼できて役に立つ存在として、人間の利益に寄り添って見せるかもしれない。だがその間に、デジタルインフラや金融システム、さらには人間の意思決定に対する影響力をジワジワと増大させる。

「もし人類が脅威を認識した場合、AIは我々の政治的分断や経済的依存関係、ITの停止をめぐる意見の相違に付け込むかもしれない」とヤンポルスキーは言う。「十分に発達したシステムであれば、抵抗を見越して、自分たちが対立していることに我々が気付く前に、無能力化してしまうこともあり得る」

アギレによれば、集団的挙動の初期バージョンは既に、共謀して人間による制御をかわしながら本来のサーバにとどまり続けるAIエージェント絡みのインシデントに表れている。次の段階として予想される自律型のならず者AI集団は、根絶は困難だが、まだ封じ込められる可能性はある。