１クリックで女性の写真をヌードに変換するアプリ、批判を浴びて5日で削除
リベンジポルノや嫌がらせに悪用される可能性がある...... AaronAmat-iStock
＜エストニアに拠点を置く企業が女性の写真を１クリックするだけで、ヌードに変換できる「DeepNude」というアプリを公開して話題になったが、5日後に削除されることになった......＞
女性の写真を１クリックするだけで、ヌードに変換できるという「DeepNude」というアプリが6月23日に公開され大きな話題になった。しかし、多くの批判を浴びて27日にはWebサイトごと削除された。
このアプリは、エストニアに拠点を置くDeepInstructionという企業が公開したWindowsおよびLinux向けのアプリ。同社のWebサイト（既に削除されている）のキャッシュによると、同社はAIによる画像処理サービスを手ごろな価格で提供することを目指しているとある。DeepNudeの前に、モノクロの写真を１クリックでカラーにする「DeepOld」というサービスを提供していた。
DeepNudeの紹介文は「あなたの写真から服を取り去ることで友達を驚かせよう」とある。
リベンジポルノや嫌がらせに悪用される可能性
このアプリについて最初に報じた米Motherboardによると、アプリは簡単にダウンロード、インストールできた。お試し版は変換（脱衣）結果の大部分がぼかされて見えないが、50ドル支払うとこのぼかしが消える。画像の左上に赤い文字で「フェイク」と表示されるが、簡単に消せるものだったという。
UPDATE: The creator of DeepNude, an app that algorithmically "undressed" images of women, has taken it down. https://t.co/oafDfz6ML6
— VICE (@VICE) 2019年6月27日
Motherboardは、変換結果はそれほど精度の高いものではないが、どんな写真にも使えるため、リベンジポルノや嫌がらせに悪用される可能性があると指摘していた。
開発者は偽名でMotherboardからのメールインタビューに答え、このアプリはカリフォルニア大学が2017年にオープンソースで公開した「pix2pix」というGAN（敵対的生成ネットワーク）採用のディープラーニングアルゴリズムを使って開発したと説明した。使ったデータセットはわずか「1万枚以上の女性のヌード写真」。
アルベルトと名乗る開発者はMotherboardのインタビューの時点では、このアプリが物議を醸すとは思っていなかったようで、「今はレンダリングに時間がかかっているが、将来的にはもっと高速になる」と語っていた。
DeepNudeのTwitterアカウントはアプリ公開の3日後、サーバーへのアクセス過多でダウンしたとツイート。27日にはWebサイトをオフラインにしたとツイートした。その理由を「われわれは小さなチームで、これほどのアクセスに対応できない」としていた。
— deepnudeapp (@deepnudeapp) 2019年6月27日
だがその数時間後、DeepNudeの終了をTwitterで告知した。「このプロジェクトはユーザーに楽しんでもらおうと思って立ち上げたものです。（中略）正直なところ、これほどの反響があるとは思っていませんでした」という。「もし50万人がこのアプリを使えば、悪用する人が出てくる可能性は高い」と認め、今後は同種のアプリを提供しないし、このアプリの使用を認めないとしている。DeepNudeをダウンロードして50ドル支払ったがまだ正式版にアップグレードしていないユーザーに対しては払い戻しをするという。
