ログイン
Eduardo Baptista
[北京 ９日 ロイター] - 人工知能（ＡＩ）の高度化に伴うリスクへの懸念が世界的に高まる中、中国の主要ＡＩ開発企業がモデルごとの安全性試験結果を公表した割合は、公開したモデルのごく一部にとどまることが、米調査会社セミアナリシスの報告書で分かった。
同社は中国の主要ＡＩ企業９社が２０２１年から２６年９月１５日までに公開した８５７モデルを調査した。対象企業はアリババ、字節跳動（バイトダンス）、騰訊控股（テンセント）、百度（バイドゥ）、ディープシーク、月之暗面（ムーンショット）、Ｚ．ＡＩ、ミニマックス、階躍星辰（ステップファン）。
その結果、特定のモデルに対応する安全性評価結果が公表されていたのは３１件で、全体の３．６％だった。モデルの公開時点かそれ以前に結果を確認できたのは９件で、１．１％にとどまった。８１３件のリリースについては安全性に関する開示が見つからなかった。ただ、企業が非公開で試験を実施していた可能性はある。
セミアナリシスは、名称が明示されたモデルにひも付く具体的な試験結果を「開示」と定義した。有害な出力、ジェイルブレイク（脱獄）耐性、プライバシー、危険な能力に関する試験などを対象とし、「安全性訓練や評価を行った」という一般的な主張は対象に含めなかった。
中国の最新の「ＡＩ安全ガバナンス枠組み」は、モデルが無許可でシステム権限や外部リソースを取得すること、評価者を欺くこと、能力を隠すこと、安全対策を回避することなどをリスクとして挙げている。ただ、セミアナリシスによると、モデルの能力に応じた義務は課していない。
報告書によると、中国政府の拘束力のある規則は主にアプリケーションと利用者への影響を規制するもので、最先端モデルの開発企業に対し、モデルの能力に基づくリスク評価の実施や公表を義務付けるものではない。
セミアナリシスはさらに、中国の主要開発企業のうち、サイバー、生物学的リスク、制御不能リスクを網羅した危険能力の試験結果を公表した上で、最先端のテキストモデルを公開した企業はないと指摘した。
米ＡＩ開発企業に関する比較可能な数値は示していない。オープンＡＩ、アンソロピック、グーグル・ディープマインドなど米国の主要企業は、一部の主要な最先端モデルの投入時に安全性報告書やシステムカード、モデルカードを公表している。
