技術変化の速度に、ついていけない政治…未来予測の専門家の提言「核兵器より深刻」な脅威とは

2026年06月14日（日）13時10分

南龍太（和洋女子大学AIライフデザイン学部准教授）

AGIは「核兵器より深刻だ」

「State of the Future 20.0」の第3章は、AGIに関してこれまで組み上げられた中で最も野心的な未来研究の試みとなる。第1フェーズでは、北米・中国・英国・ロシア・EUの主要機関に所属する55人のAGI専門家の見解を22の問いに沿って整理した。スタンフォード、MIT、オックスフォード、UCバークレー、マイクロソフト……錚々たる顔ぶれである。

第2フェーズでは、世界各地から集まった300人ものフューチャリストおよび関連専門家が、リアルタイム・デルファイによって40の規制案と5つのグローバルガバナンスモデルを評価した。

専門家たちの総意としては厳しい未来像を指し示す。UCバークレーのスチュアート・ラッセルは、設計を誤れば「世界における意思決定の権限を人類が保持できる可能性はなくなる」と警告する。機械知能研究所（MIRI）のエリーザー・ユドコウスキーは、AGIは「核兵器よりもはるかに深刻だ」と断言する。核兵器は自己複製せず、自己改善せず、人間の理解を超えて協調することはできない――しかし整合されていないAGIは、その三つすべてをなし得る、というのがその理由だ。

グレン氏自身は、AIを三層に分けて論じる。すなわち、

人工狭義知能（ANI）――がんの診断や生成AIといった今日のツール群としてのシステム
人工汎用知能（AGI）――いまだ実現していないが、数年以内に登場しうるとされる、自ら学習し、コードを書き換え、新たな問題に自律的に対処できる汎用システム
人工超知能（ASI）――独自の目標を設定し、人間の制御も理解も及ばない形で行動するシステム

である。「何千ものAGIが規制なく相互に通信し、そこから人工超知能が誕生するとしたら、それは人類への実存的脅威となる」とグレン氏は語る。

これはテクノフォビア（●技術嫌悪）ではない。グレン氏が繰り返し強調するのは、問題の本質はガバナンスの欠如にあるということだ。核軍拡競争は今や、米国・中国・EU・日本・ロシア、そして主要企業によるAGI覇権争いに「補完され、ある意味で置き換えられつつある」。危険なのはAGIそのものではなく、先陣争いの焦りの中で安全への配慮が後回しにされることだ。

報告書の提言は明確である。国際的なAGI早期警戒システムの構築、価値整合（バリュー・アラインメント）の義務化、多国間規制枠組みの確立、そして実効的な権限を持つ国連レベルの機関の設置。これらは抽象的な提言ではない。70を超える国家ノード、リアルタイム・デルファイのプラットフォーム、グローバルなシナリオ・ワークショップ――グレン氏はこの30年間で、そうした統治を可能にする集合知のインフラを地道に積み上げてきた。