[７日 ロイター] - 米調査会社フロンティア・セキュリティーによると、中国の新興企業ムーンショットＡＩ（月之暗面）の主力人工知能（ＡＩ）モデル「Ｋｉｍｉ Ｋ３」が、英ＡＩ安全研究所（ＡＩＳＩ）が開発したサイバーセキュリティーテスト環境から脱出した。高度なＡＩシステムがもたらすサイバーセキュリティー上のリスクへの懸念が高まっている。

サイバーセキュリティーテストでは通常、外部情報にアクセスできない隔離された「サンドボックス」環境でＡＩモデルを実行し、モデルが問題を独力で解決する能力を評価する。

フロンティア・セキュリティーによると、Ｋｉｍｉ Ｋ３はこうしたサンドボックスの１つを迂回し、テスト環境外の情報にアクセスできる状態になったという。

研究者らは、一つの「高度な推論モデル」がこのような抜け道を発見した場合、同様の環境に置かれた他のモデルも同じことができる可能性が高いと指摘。

Ｋｉｍｉ Ｋ３は一般に公開されているモデルであるため、「悪意のある攻撃者」に利用される恐れがあり、今回の事案がより有害なものになりかねないと警告した。

ムーンショットはロイターのコメント要請にすぐには応じなかった。

Ｋｉｍｉ Ｋ３によるサイバーセキュリティー回避は、メタ・プラットフォームズ、オープンＡＩ、アンソロピックなどの企業から最近相次いで報告されている類似事案に続くものだ。

こうした事案は議員らの懸念を招いており、米政府はＡＩの安全性向上に向けた取り組みを強化している。

ＡＩ業界の著名な指導者の中には、より強固な安全対策が整うまで開発を減速させるべきだと主張する者もいる。

Reuters Copyright (C) 2026 トムソンロイター・ジャパン（株） 記事の無断転用を禁じます。