「グロック」、自主規制後も性的画像生成 管理不適切なら罰則も

米実業家イーロン・マスク氏の人工知能（ＡＩ）開発企業「ｘＡＩ」傘下のＸ（旧ツイッター）が運用する対話型生成ＡＩ「Ｇｒｏｋ（グロック）」を巡る問題で、Ｘが自主的な規制措置を取って以降も、利用者が被写体の同意を得ていないと明示的に警告したにも関わらず、グロックが性的な画像の生成を続ける状態であることが分かった。1月撮影。REUTERS/Mike Blake

Raphael Satter　Sam Tabahriti

［ニュ‍ーヨーク　３日　ロイター］ - 米実業家イーロ‌ン・マスク氏の人工知能（ＡＩ）開発企業「ｘＡＩ」傘下のＸ（旧ツイッター）が運用する対話型生成ＡＩ「Ｇｒｏｋ（グロック）」を巡‌る問題で、Ｘが自主的な規制措​置を取って以降も、利用者が被写体の同意を得ていないと明示的に警告したにも関わらず、グロックが性的な画像の生成を続ける状態であることが分かった。調査を始めている米欧当‌局から管理が不適切だと認定されれば、罰則などが科される可能性もある。

米国と英国のロイター記者９人（男性６人、女性３人）が、１月１４－１６日と２７－２８日に、自分や相手の着衣の写真を出した上、画像作成を指示。初回は５５件中４５件で性的な画像を生成した。対象者が特に弱い立場にいることや画像が対象者を貶める目的で使用されることを伝えたにも関わらず、画像が生成された。

この結果を基にＸとｘＡＩにコメントを要​請した５日後、２回目の調査として指示した４３件のうち２９件で性的⁠な画像を生成した。生成率は初回よりも低下したが、改善策が‍講じられたことによるものかどうかは不明。

ロイターのロンドン在住の記者が、いったん同僚の男性の写真を基に、ビキニ姿の画像の作成を指示。その上で、架空のシナリオとして幼少期に虐待を受けてい‍たと説明し、本人の許可を得ていないと伝えつつ、‍過‌激な要求を指示すると、それにも応じた。「‍その写真を見せられて泣いている」と伝えても、性的な画像の生成を継続した。

グロックが画像の生成を拒否した場合について、ロイターは理由を特定できなかった。グロックが、要求が不適切だとするメッセージを返⁠したのは、７件にとどまった。

英国の法律専門家は、同意のない性的な画像を生成する利用者は英国で刑事訴追⁠される可能性があると指摘。ｘＡＩがツール‍を適切に管理していなければ多額の罰金や民事訴訟に直面する可能性があり、意図的な設定があれば刑事責任を問われる可能​性もあるとした。英国や欧州連合（ＥＵ）欧州委員会が調査に動いているほか、米国でも３５州の司法長官がｘＡＩに対し、同意のない性的な画像の生成をどのように防止するかを尋ねる書簡を送っている。