ユヴァル・ノア・ハラリ×オードリー・タン対談（2/3）──母親より自分のことを知る存在にどう対処すべきか

タン　今、私は多国籍企業に「管理院を見てほしい」と言っています。この過激なまでの透明性が台湾の「普通」であり、あなた方には2つの選択肢がある、と言ってます。我々の管理院のように リアルタイムの広告ライブラリを公開し、台湾人を操作しようとしていることがバレて恥をかくか。それかソーシャルメディア広告でわれわれを操ろうとしないか、のどちらか。あなたがた多国籍企業の選択、あなたがた次第です、と言ってます。そのための法律を作ったわけではありません。基本的には、管理院の基準を満たさない場合、社会的な制裁があることを伝えただけです。フェイスブックは広告ライブラリを全面的にオープンにすることにしました。グーグルやツイッターなどは、選挙中に政治的な広告を出すのを止めました。

これは説明責任の問題に関する対処法の簡単な例です。これは比較的小さな問題です。一方、価値観を合わせるという問題は、はるかに大きな問題です。

私たちの母親や父親、地域社会の人々は、彼らなりの物の見方を基に、私たちへ賢明なアドバイスを提供してくれます。もちろん、私たちのことを思ってのアドバイスです。それはそうなのですが、アドバイスには彼らの人生経験からくる偏見が含まれています。たとえいいアドバイスであったとしても、成長過程にあるティーンエイジャーにとって、アドバイス以外の可能性を閉じてしまうこともあるでしょう。

私にとって、この価値観の問題を解決する１つの方法は、基本的ルールとして複数の物の見方を提供することだと思います。人間のアシスタントと同じことだと思います。複数の人間のアシスタントが、あなたの価値観を理解した上で、それぞれの提案をします。もし一人があなたの利益にならない提案をしたら、残りのアシスタントがその一人と協議することでしょう。もしその一人が何度もあなたの価値観と違う提案をしたら、残りのアシスタントがその一人に警告を発するでしょう。

この「１つの意見ではなく、複数の意見を参照する」というのは、わたしの仕事上のモットーでもあります。例えば、私は「ユーザーエクスペリエンス」という表現ではなく、「ヒューマンエクスペリエンス」という表現を使います。ユーザーという表現のほうが特定の業界では一般的なのは知ってますが、ユーザーという言葉を使うと、その技術を使っている時間だけが重要という考え方になります。消費者の注目と時間を奪い合うゼロサムゲーム的な考え方です。

しかし、もしトータルな「ヒューマンエクスペリエンス」という考え方をすれば、異なる物の見方が相互にプラスとなり、最終的には自分という単一の視点から自分自身を解放することが可能になります。

ハラリ　おっしゃるように、この問題に対処する一つの方法は、複数の人間や視点を持つことだと思います。

人々がアルゴリズムの脅威を口にするとき、よく言われるのが民主主義への悪影響です。確かにアルゴリズムによる選挙操作は、民主主義に悪影響を与えます。

しかし、長期的にはアルゴリズムが大統領や首相を操作する可能性があります。そのことに人々は気付いていません。人間社会への脅威というと、SFの世界ではロボットが反乱を起こして私たちを殺そうするという話になりがちですが、そうではなく人間が理解できないようなアルゴリズムによって、大統領や首相が政治の重要な決定を下すようになるかもしれないのです。

アルゴリズムが首相のところに来て、こう言います。「巨大な金融危機が起きそうです。なので、これを実行しなければならなりません。しかしその理由は説明できません。なぜなら、あなたの脳は私が集めた全てのデータを分析できないからです」。 つまり、たとえ首相が正式な責任者であっても、実際にはアルゴリズムが政治を行なっている。このようなことが、より頻繁に起こり始めています。

面白いことに、独裁政治の方がこの種のアルゴリズムによる乗っ取りに対して、実際にははるかに弱いのです。アルゴリズムによる乗っ取りについてのSF小説やSF映画のシナリオを書く時間があったら、中国共産党をその舞台にしたいと考えています。

もし共産党がアルゴリズムに対して下級官僚の任命権を与えたらどうなるのでしょうか？トップの人事は、政治的過ぎて複雑過ぎるので、下級官僚の任命権だけにします。

しかし、地方都市や支部などのすべての役人を任命するとしましょう。共産党の8000万人の全党員を常にモニターし、データを集めて分析し、経験から学ぶアルゴリズムによって任命するわけです。