カリフォルニア大学サンタクルーズ校のアンソニー・アギレ教授は、「自律可能なならず者AI集団が出現するのに、技術的進化はほとんど要らない」と見る。

そうしたシステムは高い順応力を持ちながら、当初は生物のように進化する能力は持たず、自己改善能力も限られる。

だが「真に自律的な自己改善能力を持つようになり、そうした形でならず者となったAIシステムの集合体は、現在のように極めて脆弱なインフラを前提とすると、もはや阻止できなくなるだろう」（アギレ）

サイバーセキュリティに詳しいルイビル大学のロマン・ヤンポルスキー准教授も、「魔法のような」科学的突破口は不要だとの見方を示す。

それよりも、AIが自律性を高め、長期的な計画を立てて自らを改善しながらサイバーセキュリティ作戦を実行し、独自の目標を追求できる能力を獲得する中で、危険が発生し得るとヤンポルスキーは言う。

「スーパーインテリジェンスが出現すれば、この問題を大幅に悪化させるだろう。だが制御不能に陥る危険は、我々がそこに到達する前に始まる可能性がある」

次のページ
脅威を認識させない始まり方
【関連記事】