コラム

ユヴァル・ノア・ハラリ×オードリー・タン対談(2/3)──母親より自分のことを知る存在にどう対処すべきか

2020年07月16日(木)14時25分

イスラエルの歴史学者ユヴァル・ノア・ハラリ氏 Yuval Noah Harari-YouTube

<歴史学者ハラリ氏と、台湾のIT推進大臣タン氏による対談の第2回。アルゴリズムに脳や心をハッキングされる脅威には、透明化と複数の視点で対抗できるとタン氏は指摘する>

エクサウィザーズ AI新聞(2020年7月12日付)から転載

第1回:ユヴァル・ノア・ハラリ×オードリー・タン対談(1/3)──「ピンクのマスクはカッコいい」、誰もがルールづくりに参画できる社会の到来

◇ ◇ ◇

複数のAIアシスタントで人間の成長を支援

ハラリ 私にとっての最大の問題は、またしても歴史的な観点からなんですが、民主主義は人々の欲望や感情に権威を与えるということです。これが民主主義における究極の権威です。4年に一度だけ、人々の欲望や感情を声に出すことは、確かに十分ではないということに私は完全に同意します。効率的ではない。

私たちが21世紀に直面し、今後ますます直面するであろう大きな課題は、今、人間をハックする技術があるということ。それらの技術が、今後われわれの欲望や感情をますます操作する可能性があるということです。

もちろん、歴史の中で、王や皇帝、預言者や宗教は、常に人々の心の中に入り込み、そこで何が起こっているかを理解し、それを操作しようとしてきました。歴史の中では、20世紀の全体主義運動のような洗脳の動きが何度もありました。

しかし、先ほどお話ししたような技術を持っていなかったので、常に全員をウォッチすることができませんでした。最終的には、生物学的な知識が不足していたことが最大の障害でした。

人間は、人間の脳の中で何が行われているのかを理解するための、生物学や脳科学の知識を十分に持っていませんでした。結局、人間の脳はブラックボックスで、スターリンや毛沢東やヒトラーのような人でさえ人間の脳の中で何が起こっているのかを本当に理解できませんでした 。

しかし今、コンピュータ科学のブレークスルーとともに生物学の分野でもブレークスルーが起こり、このブラックボックスを開けようとしています。このことで、人間をハックし、脳の中で何が起こっているのかを理解することができるようになろうとしています。したがって、全く新しい操作方法が可能になろうとしているのです。

何百万人もの人々の欲望や感情を大規模に操作できるようになれば、それに対抗するには「速いフィードバックの反復」だけでは必ずしも十分ではありません。

繰り返しになりますが、人間をハッキングする完全な能力、それはまだ未来の話です。私たちはまだそこには到達していませんが、ここ数年で起きていることは憂慮すべきことです。最近のアルゴリズムやアプリ、デバイスが、実際には既に人間をハッキングしているのです。世界で最も賢い人たちが、どうすれば大衆の感情のボタンを押せるのかという問題に取り組んでいます。大企業は、彼らの従業員である非常に優秀な人たちに対して、こう言います。 「人々は、われわれのアプリやデバイス、プラットフォームに対し一日に30分の時間を費やしている。これを1時間にしたい。これが今年の業務目標だ」。

世界で最も優秀な人たちに、このタスクを与えるわけです。人々の注目をハイジャックして、企業のプラットフォームに注目させる方法を探させるわけです。世界で最も優秀な人たちは、感情のボタン、恐怖のボタン、憎しみのボタン、欲のボタンを見つけます。こうすることで、人々の注目を集めることが簡単にできるからです。

未来を見ようとすると、またしても独裁者、新しいタイプの独裁者が台頭する非常に大きな可能性が見えてきます。しかし、たとえ独裁者の台頭を避けることができたとしても、人間の脳、人間の心をハッキングする新しいツールの台頭にどう対処すべきか、それが本当に大きな問題です。

インタビューの最初の部分の例で考えてみましょう 私が例えば14歳の時、アルゴリズムは私の行動を分析したとしましょう。アルゴリズムは、私の目が何を見ているのかを分析します。浜辺を歩いていて、かわいい男の子やかわいい女の子に注目しているかどうか。ビデオやテレビを見ている時に、私の目が何をみているのかを分析します。私が女の子より男の子が好きなのを発見したとします。アルゴリズムはそれを私に伝えるのか、もしくはその情報を基に何らかの形で、私を操ろうとするかもしれません。

プロフィール

湯川鶴章

AI新聞編集長。米カリフォルニア州立大学サンフランシスコ校経済学部卒業。サンフランシスコの地元紙記者を経て、時事通信社米国法人に入社。シリコンバレーの黎明期から米国のハイテク産業を中心に取材を続ける。通算20年間の米国生活を終え2000年5月に帰国。時事通信編集委員を経て2010年独立。2017年12月から現職。主な著書に『人工知能、ロボット、人の心。』(2015年)、『次世代マーケティングプラットフォーム』(2007年)、『ネットは新聞を殺すのか』(2003年)などがある。趣味はヨガと瞑想。妻が美人なのが自慢。

今、あなたにオススメ

ニュース速報

ワールド

米下院委にトランプ氏の財務情報要求する権利、連邦裁

ビジネス

ラルフ・ローレンとカプリの四半期業績予想超え、高級

ワールド

欧州への石油輸送停止の要因はウクライナ側=トランス

ワールド

米で中国対抗半導体法が成立、バイデン氏署名 「一世

今、あなたにオススメ

MAGAZINE

特集:世界が称賛する日本の暮らし

2022年8月 9日/2022年8月16日号(8/ 2発売)

治安、医療、食文化、教育、住環境......。日本人が気付かない日本の魅力

メールマガジンのご登録はこちらから。

人気ランキング

  • 1

    史上最低レベルの視聴率で視聴者が反省会まで 朝ドラ「ちむどんどん」、沖縄県民が挙げた問題点とは

  • 2

    「これほど抗うつ効果が高いものは思いつかない」 世界的な著名精神科医が指摘するある『行動』とは

  • 3

    【動画】6つの刃でアルカイダ最高指導者の身体を切り裂いた「ニンジャ爆弾」

  • 4

    台湾有事を一変させうる兵器「中国版HIMARS」とは何か

  • 5

    ビルマニシキヘビの死体を担いで泳ぐワニが撮影される

  • 6

    【映像】華麗なるスライディングを披露するゴリラ

  • 7

    【動画】プーチン「影武者」説を主張する画像と動画

  • 8

    【映像】ビルマニシキヘビの死体を運ぶアメリカアリ…

  • 9

    中国でミャンマー大使が急死 過去1年で中国駐在大使…

  • 10

    【映像】接客態度に激怒、女性客が店員の顔にホット…

  • 1

    【映像】ビルマニシキヘビの死体を運ぶアメリカアリゲーター

  • 2

    【映像】接客態度に激怒、女性客が店員の顔にホットコーヒーを浴びせる

  • 3

    ビルマニシキヘビの死体を担いで泳ぐワニが撮影される

  • 4

    史上最低レベルの視聴率で視聴者が反省会まで 朝ド…

  • 5

    「これほど抗うつ効果が高いものは思いつかない」 世…

  • 6

    冬に向けて「脱ロシア化」準備中──じわじわ効果を上…

  • 7

    中国ロケット長征5号Bの残骸、フィリピン当局が回収 …

  • 8

    お釣りの渡し方に激怒、女性客が店員にコーヒーを投…

  • 9

    【動画】ノリノリでピザを投げつけるケイティ・ペリ…

  • 10

    【動画】6つの刃でアルカイダ最高指導者の身体を切り…

  • 1

    【映像】ビルマニシキヘビの死体を運ぶアメリカアリゲーター

  • 2

    【動画】黒人の子供に差別的な扱いをしたとして炎上したセサミプレイスでの動画

  • 3

    【空撮映像】シュモクザメが他のサメに襲い掛かる瞬間

  • 4

    「彼らは任務中の兵士だ」 近衛兵から大声で叱られた…

  • 5

    【映像】接客態度に激怒、女性客が店員の顔にホット…

  • 6

    【映像】視聴者までハラハラさせる危機感皆無のおば…

  • 7

    【動画】近衛兵の馬の手綱に触れ、大声で注意されて…

  • 8

    ビルマニシキヘビの死体を担いで泳ぐワニが撮影される

  • 9

    メーガン妃はイギリスで、キャサリン妃との関係修復…

  • 10

    【動画】珍しく待ちぼうけを食わされるプーチン

PICTURE POWER

レンズがとらえた地球のひと・すがた・みらい

英会話特集
日本再発見 シーズン2
World Voice
CHALLENGING INNOVATOR
Wonderful Story
ニューズウィーク日本版ウェブエディター募集

MOOK

ニューズウィーク日本版別冊

好評発売中