「性的ディープフェイク」を大量生成...XのAI「Grok」規制は、東南アジアが先陣

＜各国政府が対策を求めるなか、先陣を切ったのがインドネシアとマレーシアだ──＞

昨年12月下旬、イーロン・マスク率いるxAI社の生成AI、Grok（グロック）の画像編集機能が同社傘下のX（旧ツイッター）に搭載された。

以来、この機能を用いて実在する人物の写真を性的な画像に加工・拡散するケースが世界的に多発。各国政府から対策を求める声が上がるなか、インドネシアとマレーシアが規制の先陣を切った。

インドネシア政府は1月10日、国内でのGrokへのアクセスを一時的に遮断したと発表。性的なディープフェイク画像を無断で生成する行為は重大なデジタル犯罪だと断じ、Grokにはそれを防止する対策が十分に備わっていないと指摘している。

マレーシア政府も1月上旬にXとxAIに通達した是正要求への対応が不十分だったとして、11日、同じく一時的な遮断に踏み切った。

批判の高まりを受けて、XはGrokの画像編集機能の利用を有料会員に限定する措置を取ったが、本質的な解決には程遠いようだ。

From thediplomat.com

【関連記事】
◆EU委、Xの生成AI「Grok」巡り見解...女性・子どもの性的画像は違法
◆息子の友人を集めて飲酒させ、酩酊した少女への性的行為を斡旋...「パーティー・ママ」の裁判始まる
◆1000人以上の女性と関係...英アンドルー王子、「称号返上を表明」も消えない生々しすぎる「罪状」