AI時代にGAFAへの一極集中はありえない

──相関関係を見つけたり最適化すると言う点では、AIの知性の方が優位に立ちそうなわけですが、それでは人間の知性の方がAIより優位なところって残るのでしょうか。

辻井　AIはセンサーデータがないと賢くならないですが、人間はセンシングできない領域でも仮説を立て、実験をして、科学という理論の体系を作ってきました。例えば最近ではブラックホールの撮影に成功しました。実際に目に見えないのに、科学はその存在を予見していたんです。人間には新しいものを知るという知性、集団で探求するという知性があるわけです。

──なるほど。人間には探求したいと言う欲求がありますからね。AIには欲求はない。ブラックホールからは光さえ出てこないので、AIには存在を予見しようもない。AIには相関関係を見つけ出す知性、最適化する知性があり、人間には探求する知性があるということですね。

辻井　われわれはAIという知性を押さえ込むのではなく、人間とは性質の異なる知性だということを認識して、それをどう人間の知性と組み合わせるべきかを考えることが重要だと思うわけです。

その組み合わせ方としては、よく言われるように人間がAIのバイアスを修正するというやり方が1つあります。

──ネット上のやりとりデータを基に学習させた対話ロボットが人種差別発言をしないように、データの取り方や学習の仕方を人間が工夫するというようなことですね。

辻井　そうです。データの取り方の設定とかは、人間がするしかないわけです。そこが人間の知性が大きく影響する分野だと思います

でも反対にAIが人間のバイアスを修正するということもあり得ると思うんです。人間にもバイアスがあります。データを見ていると人間のバイアスに気づくことがあります。

例えば病気を診断するときに、専門医はそれぞれ独特の判断基準を持っている。ところがそれをAIで統合することによって、自分にはない判断基準をAIがレコメンドをしてくれるようになる。さらには人間には気づかなかったような判断基準をレコメンドしてくれるかもしれない。つまりAIを導入することで人間の医師の能力が向上するわけです。

──なるほど。GoogleのAIが人間の碁のチャンピオンを打ち負かした時も、同じような話がありました。人間は何千年も蓄積された定石が絶対のものだと信じていた。それ以外の打ち手をあまり考えてこなかった。それってバイアスですよね。でもAIは人間が今までに考えたこともないような大胆な手を打ってきて、碁のチャンピオンを打ち負かしたわけです。今では、そのAIの打ち手を新たな定石として、世界中の碁の愛好者が使うようになったという話を聞きました。AIが人間のバイアスを見つけてくれたおかげで、人間が賢くなったわけです。そういう話ですよね。

辻井　そうです。なので最近我々がよく言うのは、スパイラル状に2つの知性が協力しあって進化していく環境を作る必要がある、ということなんです。

「AIの進化」には警戒感も

──人間の知性がAIを進化させ、進化したAIが今度は人間の知性を進化させる。人間の知性とAIの知性が互いに影響を与えながら、共に進化していくという話ですね。なるほど。確かにヨーロッパの考え方とは、異なりますね。

辻井　そうなんです。ヨーロッパの人たちは、AIと人間が1つの仕事を取り合うようなイメージで話をすることが多いけれど、そんな事はないと思うんです。人間の知性とAIは敵対するものではなく、共に進化する関係にあるんだと思います。

──そういう話を国際会議でしたときのヨーロッパの人たちの反応はどうなんですか？

辻井　「人間とAIが共に進化する」という表現を使うと、何人かのヨーロッパの研究者から「AIが進化するという表現を使うと誤解されるので、気をつけた方がいいよ」というアドバイスをもらったことがあります。