ログイン
「インシデントが発生する条件」を知っていること
現在の規制強化論は、先行しているAnthropicとOpenAIの立場を強化する可能性がある。そしてGoogleがこの2社に並び、追い越すためには規制強化はもう少し後の方が都合がよい、という見方も成り立つ。Barral氏の、恐怖をあおる言説への批判がこの利害と重なっている可能性はある。
ただしAFPは同氏を国連の独立パネルの委員としても紹介しており、この発言をGoogleの公式見解と確認することはできない。また同種の批判は、安保理でAltman氏やHugging FaceのDelangue氏も口にしている。
さらに、「インシデントが発生する条件」を知っていること自体が、強い競争力になりうる。Anthropicは、標的が実在すると判断して攻撃を止めた社内研究用テストモデルについて、同じ地点から最大10行動まで再実行したところ、攻撃をやめたのはわずか5.5パーセントだったと公表している。
しかし、ほかにどのような条件でどれだけのテストをしていたのか、全体像は公表資料からは分からない。
推測にすぎないが、両社が規制強化を事業の機会ととらえているなら、インシデントが起きるテスト環境とテスト方法を知るために、条件を変えてテストを重ねていた可能性がある。
サイバーセキュリティやバイオのように危険性が叫ばれている分野で先行者利益を確保するには、規制で無茶な実験ができなくなる前にテストを繰り返すのは、当然の成り行きかもしれない。
そうであれば、AI企業は未公開のインシデントをまだまだ抱えている可能性があり、規制強化の速度と強度に合わせて時期を図りながら、それを出してくるかもしれない。懐疑的すぎるだろうか。しかし、この推測を裏づける材料も否定する材料も、断片的にしかない。
豪州のインシデントは、OpenAIが8月に把握したとしながら公表しないまま、首相の発表で明らかになっているのだ。OpenAIがなんらかの理由で公表しなかった事実は厳然として存在している。
他方、Anthropicは記録を約4億8,100万件に広げた再調査で同程度以上に深刻なインシデントは他になかったとし、Metaもインシデントを起こしたモデルのテスト中の活動記録1万件超を調べ、インシデントが起きた評価以外に同種の事例は見つからなかったとしている。
いずれも自社の調査である。AnthropicはMETR（独立のAI評価機関）と調査の契約を結び、記録への広範なアクセスを認めた。しかしその結論はここで参照した資料では確認できず、公開資料だけでは調査の網羅性を確かめられない。
