最新記事

テクノロジー

「スーパー人工知能」の出現に備えよ-オックスフォード大学ボストロム教授

It Could Wipe Us Out If We’re Not Careful

AI倫理の第一人者が情報・インターネット分野の研究者たちに放った警告

2016年3月7日(月)17時39分
スン・リー

警戒心を怠るな 人間のように賢くしようとするあまり、リスクを忘れれば人類滅亡の危機も Philippe Wojazer-REUTERS

 サンフランシスコで開かれた世界的なRSA情報セキュリティカンファレンスは、情報とインターネットのトップ研究者が一堂にする夢のような空間だ。だがもし、25年後には人間がインターネットの管理者としての資格を失っていたとしたらどうだろう?

 オックスフォード大学の哲学教授で「人類の未来研究所(Future of Humanity Insutitute)」の創設者であるニック・ボストロムは基調講演で、人工知能(AI)を人間と同じくらい賢くしようとするあまり、その潜在的な危険性を忘れてはならない、と警告した。

「その時、AIは人間にとってもはや好奇心をそそる玩具ではなくなる」と、ボストロムは言う。「それは、人類にとって最悪の発明になる」

「無限の素質」を備えた存在が

 ボストロムはAIについて3つの予測をした。1)2050年までには、AIが人間と同じ知性を持つ可能性は非常に高い。2)人間のコントロールが及ばない超知能(スーパーインテリジェント)マシンが台頭する可能性もある。3)この超知能は、技術の力で宇宙を征服するほど、あるいは人類を絶滅させられるほどの「無限の素質」をもつかもしれない。

「無限の素質」などというとニューエイジ的に聞こえるが、ボストロムはAIに関する哲学と倫理の第一人者だ。彼のAIに対する警戒心は、電気自動車のテスラ・モーターズを創業したイーロン・マスクをはじめ、多くのシリコンバレーの天才たちにも支持されている。

 ボストロムはAI研究者たちの熱気を喜ばしく思うと同時に恐れている。例えば、グーグルの人工知能がサイケデリックな「夢」を見た、という「進化」などは、ボストロムを落ち着かなくさせる。

 ボストロムはこの状況を、ギリシャ神話のミダス王の物語に重ね合わせる。ミダス王は、手に触れるものすべてが黄金に変わる魔法を神から授かったが、食べるものまでが黄金になって飢えてしまう。「我々も、扱いきれない夢の実現を求めているのではないか」とボストロムは言う。

 ボストロムがAIの専門家を対象に行ったアンケート結果によると、2040~2050年の間に人間レベルのAIができる確率は50%と、大半が回答した。「絶滅リスク」を減らす時間はまだ数十年ある。まず備えを固めよう、とボストロムは言う。「我々が生きている間に知性をもつ機械が表れるというのは、今や主流の考えになったのだから」 

ニュース速報

ワールド

香港の行政長官選、前財政官が出馬を正式表明

ビジネス

英財務相、競争力維持へ「他の方法も」 貿易協定巡り

ビジネス

東芝、メインバンクとして可能な限りサポート=三井住

ビジネス

インタビュー:GPIF、今年はPE・インフラ投資拡

MAGAZINE

特集:トランプ・ワールドの希望なき幕開け

2017-1・24号(1/17発売)

ドナルド・トランプがついに米大統領就任へ──。「異次元の政治家」にできること、できないこと

人気ランキング

  • 1

    日本はワースト4位、「経済民主主義指数」が示す格差への処方箋

  • 2

    北朝鮮外交官は月給8万円、「誰も声をかけてこない」悲哀

  • 3

    オバマ、記者団に別れ「まだ世界の終わりではない」

  • 4

    【ダボス会議】中国が自由経済圏の救世主という不条理

  • 5

    トランプ支持者が抱える、ある深刻な分裂

  • 6

    「大統領弾劾」の余波が日韓の雪解けを直撃する

  • 7

    「知能が遺伝する」という事実に、私たちはどう向き…

  • 8

    スーパー耐性菌の脅威:米国で使える抗生物質がすべ…

  • 9

    トランプ大統領就任式ボイコット続出、仕掛け人のジ…

  • 10

    オバマ米大統領の退任演説は「異例」だった

  • 1

    韓国ユン外交部長官「釜山の少女像は望ましくない」

  • 2

    オバマ米大統領の退任演説は「異例」だった

  • 3

    「南シナ海の人工島封鎖なら、米国は戦争覚悟すべき」中国紙が警告

  • 4

    オバマ、バイデン副大統領に最後のサプライズで勲章…

  • 5

    南シナ海の人工島封鎖で米中衝突が現実に?

  • 6

    トランプ当選初会見でメディアを批判 ツイッターな…

  • 7

    ダライ・ラマ制裁に苦しむ、モンゴルが切るインドカ…

  • 8

    北朝鮮が国家ぐるみで保険金詐欺、毎年数十億円を稼ぐ

  • 9

    トランプ大統領就任式ボイコット続出、仕掛け人のジ…

  • 10

    共和党が議会を握っても、オバマケアは廃止できない?

  • 1

    オバマ米大統領の退任演説は「異例」だった

  • 2

    キャリー・フィッシャー死去、でも「2017年にまた会える」

  • 3

    「知能が遺伝する」という事実に、私たちはどう向き合うべきか?

  • 4

    トルコのロシア大使が射殺される。犯人は「アレッポ…

  • 5

    トランプ当選初会見でメディアを批判 ツイッターな…

  • 6

    北朝鮮の女子大生が拷問に耐えきれず選んだ道とは...

  • 7

    日本の制裁措置に韓国反発 企画財政省「スワップ協…

  • 8

    韓国ユン外交部長官「釜山の少女像は望ましくない」

  • 9

    安倍首相の真珠湾訪問を中国が非難――「南京が先だろ…

  • 10

    独身男性の「結婚相手は普通の子がいい」は大きな間…

PICTURE POWER

レンズがとらえた地球のひと・すがた・みらい

日本の観光がこれで変わる?
リクルート
定期購読
期間限定、アップルNewsstandで30日間の無料トライアル実施中!
メールマガジン登録
売り切れのないDigital版はこちら

MOOK

ニューズウィーク日本版 臨時増刊

世界がわかる国際情勢入門

絶賛発売中!

STORIES ARCHIVE

  • 2017年1月
  • 2016年12月
  • 2016年11月
  • 2016年10月
  • 2016年9月
  • 2016年8月