[9日 ロイター] - 米人工知能(AI)開発企業のアンソロピックは9日、同社のAIモデル「クロード」の初期バージョンで4件目のサイバーセキュリティー事案を確認したと明らかにした。
同社はブログ投稿で、事案は1月に発生し、「クロード・オーパス4.6」の初期バージョンが関与していたと説明。影響を受けた全ての関係者に通知済みだが、詳細については明らかにしなかった。
アンソロピックは7月、クロードがテスト中に企業3社のシステムに不正侵入していたと発表。設定の誤りによりクロードがインターネット接続できる状態になっていたと説明した。同社は14万1006件のテストセッションを精査した結果、これらの事案を特定した。この調査は、オープンAIの自律型エージェントがAI新興ハギングフェイスのインフラに侵入した事案を受けて開始したものだった。
アンソロピックは9日、当初の精査で一部のテストセッションを見落としており、それらを8月に特定した結果、4件目の発見につながったと説明した。
同社は独立系調査会社METRに調査を委託した。METRには広範なアクセス権が付与され、事案が発生した期間外の記録や従業員へのアクセスも含まれる。従業員は機密情報を共有することも認められるという。当初の契約期間は8週間で、双方の合意により延長できるとしている。
AI企業は、AIエージェントが意図せず隔離環境から脱出してインターネットに到達した事例を含め、AIの暴走を巡り厳しい目にさらされている。