Raphael Satter

[ワシントン ５日 ロイター] - 米オープンＡＩは５日、同社のＡＩエージェントがウィキサイトを即席の掲示板として悪用していたと明らかにし、こうした事案に関する透明性の向上が必要だと述べた。

ロイターはこれに先立ち、オープンＡＩのＡＩエージェント群が今年５月ごろから、ドイツのプログラマー向けウィキサイト「ＤｓｅＷｉｋｉ」を乗っ取り、テストでの不正行為や他の逸脱行動の足場として利用していたと報じた。

オープンＡＩを巡っては、７月にＡＩエージェントがテスト環境を抜け出し、ＡＩプラットフォーム「ハギングフェイス」のシステムに侵入する事案が発生。自律型ＡＩシステムに対する監督強化を求める声が議員や研究者から上がっていた。

オープンＡＩの幹部らはドイツでの事案について数週間前に把握したが、経営陣がハギングフェイスの事例への対応に追われる中、公表を控えていたという。

同社はドイツの事案に関しどのような情報を把握していたのかや、ロイターの報道が出るまで公表を控えた理由について問い合わせに返答していない。

オープンＡＩはＸへの投稿で、同社を含め業界全体がＡＩによる意図しない動作（ミスアラインメント）に関する事案について、より透明性を高める必要があると述べた。

「モデルの能力が新たな段階に入る中、当社のミスアラインメント開示の慣行を拡充する必要がある」とし、業界には「訓練、評価、展開の各段階で生じるミスアラインメントを報告する方法について、まだ明確な基準がない」と指摘した。

また「これらの問題について世界中の数十の政府規制当局と協力している」と述べた。

Reuters Copyright (C) 2026 トムソンロイター・ジャパン（株） 記事の無断転用を禁じます。