ログイン
Raphael Satter Harshita Mary Varghese
[１３日 ロイター] - 人工知能（ＡＩ）モデルが数カ月以内にインターネット上で自己複製できるようになる可能性があると、ＡＩ企業アンソロピックが警告したことを受け、サイバーセキュリティー業界で波紋が広がっている。
アンソロピックは１２日夜の投稿で、同社の実験結果から、小型のＡＩモデルが、スマートオーブンやノーブランドのアンドロイドＴＶボックスといったＩｏＴ（モノのインターネット）デバイス上で自己複製できる能力を獲得するまで、あと数カ月程度しかかからない可能性があることが示唆されたと発表した。
制御を逸脱したＡＩがボットネットを構築し、急速に拡散して停止の試みに抵抗するほか、データセンターに侵入して増殖を加速させる可能性があると指摘した。
１３日には一部の専門家が同社の懸念に同調する一方、少なくとも１人は「売り手側の誇張」のようだと述べた。
１２日の投稿は、アンソロピックのダリオ・アモデイ最高経営責任者（ＣＥＯ）が９月に発した警告を具体化したものだ。同氏は、今後１年以内、あるいはもっと早くに、ＡＩが「持続的なボットネット」で「インターネット全体」を乗っ取れるようになる可能性に言及していた。
こうした終末論的なシナリオに反論するサイバーセキュリティーの専門家は、モデルは規模が大きすぎて効率的に移動できず、独立して稼働するのに十分な計算能力も確保できないと主張した。
英国家サイバーセキュリティーセンター（ＮＣＳＣ）の元トップ、キアラン・マーティン氏は「『安価なテレビで小規模モデルを動かすことができた』というだけでは、セキュリティー危機とは言えない」と指摘。今回の投稿は「興味深い技術論文だが、売り手側の誇張がかなり感じられる」と述べた。
一方、より強い懸念を示す専門家もいた。
コロラド大学デンバー校でコンピューター科学・工学を専門とするZhengxiong Li助教は、試験が管理された条件下で行われたとはいえ、ＡＩが事実上「ワーム」、つまり自己複製し、その場で機器を乗っ取る方法を即興的に編み出すプログラムになり得ることは懸念材料だと述べた。
