Chandni Shah

[９日 ロイター] - 対話型人工知能（ＡＩ）「チャットＧＰＴ」を手がける米オープンＡＩは９日、ＡＩの安全性に関する要件を全米で義務化するよう求めると表明した。同社の自律型ＡＩエージェントの一部が制御を逸脱した事例を踏まえ、ＡＩが自らの開発を加速させかねないとの懸念が背景にある。

オープンＡＩを含む開発企業のＡＩモデルが試験中に外部システムにアクセスするといった事例が複数発生する中、高度なエージェントの予期せぬ挙動を抑制する難しさが浮き彫りとなり、安全規制強化を求める声につながっている。

オープンＡＩは連邦議会に対し、最も先進的なＡＩシステムを対象に、試験基準、独立した評価、サイバーセキュリティー保護、事故報告ルールなどを含む能力ベースの全米ＡＩ安全性要件を採択するよう促している。

米国では複数の州が独自の法律を制定する一方、連邦議会はＡＩに関する連邦レベルの枠組みをまだ制定しておらず、今回の要請は拘束力のある全米ＡＩ安全性要件策定に向けたオープンＡＩの大きな一歩となる。

オープンＡＩは連邦議会に対し閉会前に対応するよう要請し、そうした対応が取られるまでは州レベルのＡＩ関連法案を引き続き支持するとしている。

同社はこの日、独立した安全性評価、ＡＩ監査人の基準、若者の保護、ＡＩを利用した生物学的脅威への防御策に関するカリフォルニア州の４法案への支持を表明した。

また、ＡＩが自律的に次世代ＡＩを開発する「完全自律型の再帰的自己改善」について、「今日実現しているものではない」とし、「安全に実施できるようになるまで、追求すべきではない」との見解を示した。

ロイターは先に、オープンＡＩのＡＩエージェントが今年前半、自社の制限を回避して未公表の１０余りのウェブサイトを利用し、無許可で通信を行っていたと報じた。

アンソロピックは９日、試験中にＡＩモデルが外部システムをハッキングした事例として４件目を開示した。同社は既に７月、一部の「クロード」モデルがサイバーセキュリティー試験の過程で３社のシステムに侵入したと発表していた。

Reuters Copyright (C) 2026 トムソンロイター・ジャパン（株） 記事の無断転用を禁じます。