AIの暴走を恐れる企業も競争から降りられない…現実味を帯びる「AIによる人類滅亡」と、思い出される原爆開発の記憶

9月8日、米AI企業アンソロピックの研究者3人がわずか数時間のうちに相次いで、X（旧ツイッター）でほぼ同じ予言をした。「終わりの日」がすぐそこまで迫っている──。何とも終末論的な話だ。

AIモデルの事前学習を担う研究者ジェイコブ・コクソン（27）は、同日付で退職した旨をXで報告。同社と競合企業のオープンAIが「自己改善する超知能の実現を目指して熾烈な競争を繰り広げ」「私たちの命を賭けに使っている」と理由を説明した。

アンソロピックでアラインメント科学部門を率いるエバン・ヒュービンガーも、コクソンの指摘は正しいと投稿し、AIが今後10年以内に人類を滅亡させる確率を10％と見積もった。

さらに、人間による高度なAIの監督手法を研究するサミュエル・マークスも同様の懸念を表明。「自分の研究によって、人類が絶滅する結末に至る可能性を減らしたい」と書いた。

こうした懸念の根底には、AIの驚異的な進化の最前線に立つテクノロジー企業が直面するジレンマがある。開発ペースを落として、他社に後れを取るか、AIが制御不能に陥るリスクを承知で開発を加速させるか──。

米物理学者のロバート・オッペンハイマーが中心となって進めた世界初の原子爆弾開発計画でも、早い段階から同じようなジレンマが生じていた。当時の研究者たちは、核実験が引き金となって連鎖的な発火が起き、世界が滅亡する可能性がゼロではないと恐れていた。