敵対的機械学習
──敵対的機械学習って、最近話題になっているGAN（敵対的生成ネットワーク）のことですか？
遠藤 いえ、違います。ごまかそうとする側と、それを見破ろうとする側が存在する、というところは共通していますが。
ご存知のようにAIによる画像認識の方法と、人間による画像認識は、やり方が微妙に異なっていて、人間にとっては「パンダ」の写真を、AIが「テナガザル」と判断してしまうことがあるんです。それが今日の画像認識の大きな課題の１つなんですが、その問題を解決しようとして、NIPS（編注：世界的なAIの学会）で、ノイズを加えてAIを騙そうとするコンペと、それを見破ろうというコンペが同時に開催されているんです。そうした試みのことが、敵対的機械学習と呼ばれています。
画像認識のこの課題は、大きな危険性をはらんでいて、例えば自動走行車の画像認識に小さなノイズを送りつけることで、道路標識を別の標識と誤認識させてしまえば、大きな事故につながることだってあります。なのでこうしたことを防ぐために、盛んに研究が行われています。
