ハギングフェイス、暴走ＡＩ対策で中国モデル採用　米安全規制受け | ニューズウィーク日本版オフィシャルサイト

Aditya Soni　Jaspreet Singh

[２２日ロイター] - 米オープンＡＩが開発中の人工知能（ＡＩ）が暴走しサイバー攻撃を仕掛けた問題で、攻撃を受けた米ＡＩ新興企業ハギングフェイスは被害データを分析するために中国製ＡＩモデルを使用した。米ＡＩ企業が制限を設けていることが原因だが、これをきっかけに顧客が中国の競合他社に流れるのではないかとの懸念が高まっている。

ハギングフェイスは中国の智譜ＡＩ（Ｚｈｉｐｕ　ＡＩ）が開発したオープンソースのモデル「ＧＬＭ５．２」を利用して、ハッキングによるデータの分析を行ったと明らかにした。米国の主要なＡＩモデルが防御側と攻撃側の区別がつかないとして、この作業を拒否したためだ。

最先端モデルへのアクセスを制限したり、安全性への懸念からハッキング関連の作業を拒むよう設計したりする米ＡＩ研究機関によって、ＡＩを使ったサイバー攻撃に直面する米企業が対応を制約されかねない実態が浮き彫りになった。

ハギングフェイスの共同創業者クレマン・ドゥラング氏は、Ｘへの投稿で「秘密主義は解決策にはならない。一部の限られた人々だけでなく、あらゆる場所の全ての防御側が制限のない強力なモデル、とりわけオープンなモデルを必要としていることをわれわれは学びつつある」と述べた。

米国の主要なモデル開発企業にとってのジレンマは、防御のためのサイバーセキュリティー業務と、悪意のあるハッキング行為を明確に区別することが困難な点にある。最近のＡＩを悪用した不正アクセスでは、攻撃側がモデルを欺き、正当な防御作業をしていると認識させる手口が使われた。このため安全対策が業務の妨げになっているとサイバー分野の専門家が指摘しても、ＡＩ企業は対策の緩和に慎重姿勢を崩していない。

この状況はＧＬＭ５．２をはじめとする中国製のオープンソースモデルにとって追い風となっている。

キングス・カレッジ・ロンドン戦争研究科の客員上級研究員で独立技術コンサルタントのルカシュ・オレイニク氏は「攻撃者が高性能なモデルを利用できる一方で、正当な防御側の活動を制限する安全管理体制は、非対称な不利益を生み出すことになる」と指摘。「安全対策や制限を伴わないオープンソースモデルの性能が向上するにつれ、この格差は広がる一方だろう」と警告した。

一部のアナリストからは、今回の事案を米国の安全対策を緩和する根拠にすべきではないとの警告も出ている。ロバート・Ｗ・ベアードのアナリスト、シュレニク・コタリ氏は「米国の最先端モデルにおけるサイバーセキュリティー上の安全対策は競争上の隙を生んでいるが、単にそれを取り除くことが解決策ではない」と述べた。

「オープンＡＩやアンソロピック、グーグルは安全性を放棄するのではなく、アクセスの設計を見直すべきだ。つまり、一律にアクセスを拒否する階層方式から、権限管理に基づく機能の割り当てへと移行する必要がある」と提起した。