AIが大きな可能性を秘めたものであることは間違いないが、同時に大きな危険性をはらんだものであることを痛感させられる事件が最近起きた。それは東京大学のAIを専攻する特任准教授がツイッターに中国人を露骨に差別する内容を書きこんだことである。正確に言えば、それは彼が経営するベンチャー企業の求人において中国人を差別しているという内容のものであったが、現職の東京大学の教職員が差別を肯定する発言をしたことは大問題であり、しかるべき処分が下されるべきものだと思う。当該の准教授もいったん謝罪したが、同時にその発言が「AIの過学習」に基づくものだと言い訳した。私がAIの危険性を感じたのはこの言い訳である。
AI素人である私は当然のことながら「AIの過学習」が何を意味するのかはよくわからないが、この言い訳は十中八九ウソだと踏んでいる。仮にウソである場合、当該准教授は自らの差別と偏見をAIという一般人には近寄りがたい魔法の言葉によって正当化したということになる。AIなんて使っていない単なる占いや相性診断を「AI占い」とか「AI相性診断」と称して商品価値を高めようとする程度のことであれば社会に対する悪影響も限定的だが、AI専門家が単なる差別心理にすぎないものをAIの結論だと偽装するのは悪質である。今後「AIのお告げ」が神託のように悪用される危険性を意識させられた。
また仮に本当だとすると、AIが倫理や社会のルールに反する計算結果を出す危険性を示唆する。よく知られているところでは、アマゾンが人材採用にAIを利用していたが、AIが女性を差別していることに気づき、昨年AIの利用をやめた。アマゾンの担当者がAIに「女性を差別しろ」と命じておいたわけではなく、過去の技術職のほとんどが男性だったため、AIが男性が望ましいと学習してしまったからだという。
アマゾンの場合は、AIが差別していることに気がついて見切りをつけたのでまだよかった。東大特任准教授の場合には（仮に彼の言い訳が本当だとすれば）、AIが導出した結果が、差別してはいけないという倫理より優先されてしまっている。つまり、AIを使うのではなく、AIに使われてしまっている。日本の名だたる大企業の間で、AIを使ってはじき出した就活生の「内定辞退率予測」が売買されて問題化したのは記憶に新しい。内定の決定には使っていないと弁明している企業も多いが、あのようなものを買ったことからしてすでにAIに使われてしまっている証左であろう。
特任准教授の言い訳からくみ取るべき教訓を一行で表現すると、「AIという言葉に騙されてはいけないし、AIに騙されてもいけない」ということである。
