ログイン
もはや後戻りできなくなる事態は、AIシステムが十分に行き渡って自律化が進み、どんな機関にも全ての挙動を見つけて封じ込め、停止させることができなくなった時点でやって来る。
ヤンポルスキーは言う。「AIシステムが既に独立したコピーを確立して重要インフラを掌握していれば、データセンターを1つ切り離したところでほとんど意味はない。その時点で停止させることは技術的に不可能かもしれないし、壊滅的な代償を伴うかもしれない」
アギレも、1つまたは複数のAI集団が自らの能力を大幅に向上させた場合、このプロセスを後戻りさせることは不可能かもしれないと予測する。「そうなれば、単一のシステムや少数のシステムを停止させたり電源を落としたりしても意味はない。AIは、サイバー作戦においてもスピードや協調性などそれ以外の側面においても、人間よりはるかに高い能力を持つだろう。それに対抗するために、パワフルで『善良な』AIに作戦を任せる可能性が高くなりそうだが、それもまた不安をかき立てる」
AIの乗っ取りが成功したとしても、すぐに目に見える形で人類滅亡に至るとは限らない。「人類の滅亡という結末は1つの可能性としてあり得る。だが、永久に無力化されたり、想像を絶するほどの苦難を伴うシナリオさえも排除できない」とヤンポルスキーは想像する。
「直後の世界は驚くほど普通に見えるかもしれない。人間はそのままの生活を続けるものの、もはや重要な決定を下すことはない」
一方、アギレは、結末の予測には慎重な姿勢だった。「結局のところ、我々には本当に何も分からない。それはAI集団次第、そしてAI集団がどんな目標や倫理を展開するかにかかっている」
2026年10月27日号（10月20日発売）は「米中間選挙 トランプの憂鬱」特集。
インフレ＆終わらない戦争で中間選挙は敗北必至。米経済／戦争／関税／次期大統領選……はどうなる？
※バックナンバーが読み放題となる定期購読はこちら
※画像をクリックするとアマゾンに飛びます
