ユヴァル・ノア・ハラリ×オードリー・タン対談（2/3）──母親より自分のことを知る存在にどう対処すべきか

ハラリ　例えばコカコーラがこの知識を使って、私が必要としていないものを売るために使ったらどうでしょう。セクシーな男たちのコマーシャルを見せられて、なぜか分からないけど、私はその製品を買ってしまう。それはこの知識を悪用していることになります。

しかし、本当に大きな問題は、もしアルゴリズムが悪意を持っていなかったらどうなるかということです。そのアルゴリズムが特定の企業のために働いているのではなく、単純に私の知らない私自身のことを知っている。一種の情報の不均衡です。この結果、何が起こるのでしょう？

つまり、アルゴリズムは、私がゲイであることを教えるべきなのか？それとも私がこのことにゆっくりと気づくように、徐々にいろいろなコンテンツを見せていくべきでしょうか？このアルゴリズムのような存在との適切な関係性とはどのようなものになるのでしょうか？

もう一つ。私たちはこれまでにも、ある意味でこのような存在を持っていました。母や父、教師などです。私の母は、私が14歳の時、私がゲイであることを知らなかったかもしれませんが、私自身気づいていない私自身のことをたくさん知っていました。

しかし、母は私のこと一番に考えた上で、そうした情報を活用してくれました。過去何千年もの間、人類はこうした有益な親子関係を築いてきたのです。

ところが私たちは突然、実際には母よりも遥かに私のことを知っている、全く新しい種類の「存在」を作り出しているわけです。しかもその「存在」であるAIのメンターと私が、どのような関係性になるのか。そのことについては、文化的、歴史的な事象で参考になるものが全くないんです。

私はこの件に関して、ディストピア的、ユートピア的なことを言いたいわけではなく、ただこの新しい技術からどのような関係性が生まれてくるのか、歴史学者として非常に興味深く感じているということです。

タン　はい、この点に関しては、実際には2つのポイントがあります。1つは、説明責任の欠如です。コカコーラの例がありました。そしてもう1つは、価値観合わせの問題です。人間の味方であるマシンが、すべてを見通している問題です。

説明責任の問題は比較的簡単です。台湾では、前回の総統選挙で、政府の完全独立機関である「管理院」と呼ばれる部門で、1つの規範を確立しました。独立系ジャーナリストが分析できるように、選挙献金や選挙費用に関する生データを全部公開し、選挙を抜本的に透明化したんです。

政府がこうした方針に舵を切ったのは、私たち市民ハッカー活動家がこれを要請し続けてきたからです。時には政府に不服従の行為さえしてきました 。2018年の市長選挙の時に、私たちが実際に動き始めた時、大事な事が欠けていることに気づきました。選挙に関するソーシャルメディア広告が、選挙運動として一切報告されていなかったんです。ソーシャルメディア選挙広告の多くは出稿者が外国人でした。だれがどの候補の広告にいくら使っているかは、完全なブラックボックスでした。

外国からの資金がいくつかの国の選挙に介入したという報道を目にしたことがあります。ユヴァルが説明してくれたような高度なターゲティング技術を使った外国からの選挙介入です。一人一人の隠れた恐怖や希望が何であるかを、非常に細かな精度で予測し、その恐怖や希望を使って投票に行かないように誘導したり、特定の候補者を避けるように誘導したり、ある種の感情操作をしたりするわけです。