焦点：グロックの性的画像無断生成、欧州はどこまで規制できるか

イーロン・マスク氏への抗議団体が、プラットフォーム「Ｘ」のボイコットを呼びかけるポスター。1月14日、ロンドンで撮影。REUTERS/Chris J Ratcliffe

Supantha ‍Mukherjee　Paul Sandle

[ストックホルム/ロンドン １５日 ロイター] - 米実業家イーロン・‌マスク氏が率いる企業ｘＡＩが開発した人工知能（ＡＩ）「Ｇｒｏｋ（グロック）」が、実在する人物の画像を無断で性的な姿に加工する手段としてＸ（旧ツイッター）上で使われている。この問題で、規制当局はｘＡＩに対応措置を講じさせる成果を収めた。だが欧州では、本物そっくりのディープフェイクなど‌に対してどこまで踏み込んだ規制ができるかが引き続​き試されている。

Ｘは１４日遅くに、グロック利用者の画像編集に制限を設けたと発表した。当初この問題を笑い飛ばしていたマスク氏が譲歩を強いられたわけで、露骨なコンテンツを安価かつ用意に生成できるＡＩツールの取り締まりがいかに難しいかを浮き彫りにしている。欧州当局とマスク氏の対立という文脈で言えば、選挙干渉やコンテンツ管理、言論の自由と続いた流れは新たな局面を迎えたことになる。

多くの規制当局は依然として、ＡＩを統御するための法律やルール作りに奔走している段階‌だ。何を「ヌード」とみなすのか、どこまでを「本人の同意があった」と判断するのか、責任を負うのは利用者かそれともプラットフォーム運営者なのか――こういった点は、依然として明確になっていない。

ストックホルムに拠点を置く法律事務所マンハイマー・スワートリングでデータ保護・プライバシー問題を扱うエングラ・パンデル弁護士は「ヌード画像の生成に関しては本当にグレーゾーンだ」と語った。

英情報通信庁（Ｏｆｃｏｍ）はマスク氏の対応を歓迎したが、グロック使用についてのｘＡＩに対する調査は継続すると表明。広報担当者は「正式調査は続いている。何が問題で、その是正に向けて何が行われているかの答えを得るため、われわれは昼夜を問わず作業を進めている」と述べた。

＜デジタルサービス法の運用強化論＞

グロックによって女性を露出の多いビキニ姿にしたり、品位を損なうポーズを取らせるといったさまざまな性的画像が生成されており、未成年者がデジタル処理で水着姿に変えられたケースもある。

ロイターが１４日までに確認した限り、グ​ロックはなお個人の要求に応じて性的画像を生成していた。ただ１５日には少なくとも特定地域でこうした処理は抑制さ⁠れたもようだ。

Ｘは「違法とされている地域」において、露出度の高い服装の人物画像生成を利用者に禁止していると説明したが、具体的な地域は明らかに‍していない。

マレーシアとインドネシアの政府はグロックの利用を一時禁止。英国とフランス、イタリアは調査を開始したものの、より厳格な措置を迫られている。

欧州議会の中道右派会派、欧州人民党に加盟するキリスト教民主・社会同盟のニーナ・カーベリー議員は「女性や未成年者を性的に表現したり、裸にしたりするアプリやプラットフォームを阻止するには、デジタルサービス法（ＤＳＡ）の運用をより強化する必要がある」と訴えた。

ＥＵの欧州委員会の報道官は、グロック利用に関する措置が効果的でなかった場合、ＤＳＡに基づく執行手段を全面的‍に用いると述べた。

＜飛躍的な拡散範囲＞

法律事務所シモンズ・アンド・シモンズでデータ保護を扱うアレクサンダー・ブラウン弁護士は‍、英国のオ‌ンライン安全法は、ＡＩ生成のディープフェイクなど、本人に無断でそっくりな画像を共有する行為を「優先的取り締まり‍の対象となる犯罪」と規定していると指摘する。

「これはＸがそのようなコンテンツをプラットフォーム上に掲載されるのをあらかじめ防ぎ、検知された際には迅速に削除するため、積極的かつ適切な措置に動く義務があることを意味する」という。

英国の規制当局は、最も重大な違反の場合、企業に最大で収入の１０％相当の制裁金を科すほか、インターネットプロバイダーへサイトの遮断を命じるよう裁判所に求めることができる。

ただマンハイマー・スワートリングのアンデシュ・ベルグステン弁護士の話では、被害に遭った個人がプラットフォーム運営者を提訴するの⁠は「非常に困難で負担の大きいプロセス」になると説明し、被害者が受ける精神的な打撃は深刻だと指摘した。

ディープフェイクはＡＩアプリ登場のずっと前からあったが、ほとんどがネット世界の深い闇の一角に限られた存在だった。だがＸの強い発信力により、グロッ⁠クからの拡散範囲は前例がないほど広がった。

サイバーハラスメント被害者を支援し‍ている米国の弁護士、キャリー・ゴールドバーグ氏は「制約の少ない発信機能により、ディープフェイクは大規模に拡散している」と強調した。

英国とスウェーデンの法律では、本人の同意なしにヌード画像を共有するのは違法となる。英国はこうした画像の「作成」も違法とするよう、法律の適用範囲を拡大しようとしている。

ＤＳＡの下で​は、サービス停止は最終手段とされている。さらに複数の専門家は、ＥＵのＡＩ規制法には成人のヌード画像に関する規定がなく、ディープフェイクに対しては透明性義務が課されるだけだと話す。

こうした中でスターマー英首相は、Ｘの対応を評価した一方で「言論の自由は、他人の同意を踏みにじってよいという意味ではない。若い女性の画像は公共のものではなく、彼女らの安全は当然守られるべきだ」と警告した。

その上で「必要であれば、既存の法律をさらに強化する用意がある」と強調した。