最新記事

テクノロジー

「スーパー人工知能」の出現に備えよ-オックスフォード大学ボストロム教授

It Could Wipe Us Out If We’re Not Careful

AI倫理の第一人者が情報・インターネット分野の研究者たちに放った警告

2016年3月7日(月)17時39分
スン・リー

警戒心を怠るな 人間のように賢くしようとするあまり、リスクを忘れれば人類滅亡の危機も Philippe Wojazer-REUTERS

 サンフランシスコで開かれた世界的なRSA情報セキュリティカンファレンスは、情報とインターネットのトップ研究者が一堂にする夢のような空間だ。だがもし、25年後には人間がインターネットの管理者としての資格を失っていたとしたらどうだろう?

 オックスフォード大学の哲学教授で「人類の未来研究所(Future of Humanity Insutitute)」の創設者であるニック・ボストロムは基調講演で、人工知能(AI)を人間と同じくらい賢くしようとするあまり、その潜在的な危険性を忘れてはならない、と警告した。

「その時、AIは人間にとってもはや好奇心をそそる玩具ではなくなる」と、ボストロムは言う。「それは、人類にとって最悪の発明になる」

「無限の素質」を備えた存在が

 ボストロムはAIについて3つの予測をした。1)2050年までには、AIが人間と同じ知性を持つ可能性は非常に高い。2)人間のコントロールが及ばない超知能(スーパーインテリジェント)マシンが台頭する可能性もある。3)この超知能は、技術の力で宇宙を征服するほど、あるいは人類を絶滅させられるほどの「無限の素質」をもつかもしれない。

「無限の素質」などというとニューエイジ的に聞こえるが、ボストロムはAIに関する哲学と倫理の第一人者だ。彼のAIに対する警戒心は、電気自動車のテスラ・モーターズを創業したイーロン・マスクをはじめ、多くのシリコンバレーの天才たちにも支持されている。

 ボストロムはAI研究者たちの熱気を喜ばしく思うと同時に恐れている。例えば、グーグルの人工知能がサイケデリックな「夢」を見た、という「進化」などは、ボストロムを落ち着かなくさせる。

 ボストロムはこの状況を、ギリシャ神話のミダス王の物語に重ね合わせる。ミダス王は、手に触れるものすべてが黄金に変わる魔法を神から授かったが、食べるものまでが黄金になって飢えてしまう。「我々も、扱いきれない夢の実現を求めているのではないか」とボストロムは言う。

 ボストロムがAIの専門家を対象に行ったアンケート結果によると、2040~2050年の間に人間レベルのAIができる確率は50%と、大半が回答した。「絶滅リスク」を減らす時間はまだ数十年ある。まず備えを固めよう、とボストロムは言う。「我々が生きている間に知性をもつ機械が表れるというのは、今や主流の考えになったのだから」 

ニュース速報

ビジネス

日本のカジノ、投資コストは最大100億ドルを想定=

ビジネス

アングル:動き出すプレミアムフライデー、ソフトバン

ワールド

イラン、トルコ大統領と外相の発言巡り大使を呼んで抗

ビジネス

2月27日から銀行預金準備率の制度を変更=中国人民

MAGAZINE

特集:北朝鮮 暗殺の地政学

2017-2・28号(2/21発売)

異国の地マレーシアで殺害された金正男──。その死の背景には北朝鮮をめぐる地政学の変化があった

人気ランキング

  • 1

    金正男殺害を中国はどう受け止めたか――中国政府関係者を直撃取材

  • 2

    金正男暗殺事件、マレーシア首相が北朝鮮を暗に批判 対立が鮮明に

  • 3

    金正男氏を死に追いやった韓国誌「暴露スクープ」の中身

  • 4

    海上自衛隊、18年度から4年間で新型護衛艦8隻建造へ

  • 5

    金正男暗殺は10名が関与、4人は国外へ 現地警察が初…

  • 6

    金正男の暗殺事件で北朝鮮の男を逮捕 謎の男の正体…

  • 7

    日本が危ない!? 福島原発の放射能フェイクニュース…

  • 8

    トランプ「メディアは国民の敵」、独裁につながる=…

  • 9

    今さら聞けない、円高になると日経平均が下がる理由

  • 10

    トランプ大統領、スウェーデンの移民受け入れめぐる…

  • 1

    金正男氏を死に追いやった韓国誌「暴露スクープ」の中身

  • 2

    金正男殺害を中国はどう受け止めたか――中国政府関係者を直撃取材

  • 3

    金正男クアラルンプール暗殺 北朝鮮は5年前から機会を狙っていた

  • 4

    北朝鮮独裁者、「身内殺し」の系譜

  • 5

    金正男の暗殺事件で北朝鮮の男を逮捕 謎の男の正体…

  • 6

    「線路立ち入りで書類送検」が他人事でなくなる侵入…

  • 7

    北朝鮮の女子大生が拷問に耐えきれず選んだ道とは...

  • 8

    海上自衛隊、18年度から4年間で新型護衛艦8隻建造へ

  • 9

    一般市民まで脅し合う、不信に満ちた中国の脅迫社会

  • 10

    南シナ海、米中戦争を起こさず中国を封じ込める法

  • 1

    金正男氏を死に追いやった韓国誌「暴露スクープ」の中身

  • 2

    トランプを追い出す4つの選択肢──弾劾や軍事クーデターもあり

  • 3

    日本でもAmazon Echo年内発売?既に業界は戦々恐々

  • 4

    東芝が事実上の解体へ、なぜこうなったのか?

  • 5

    金正男殺害を中国はどう受け止めたか――中国政府関係…

  • 6

    北朝鮮の女子大生が拷問に耐えきれず選んだ道とは...

  • 7

    ドナルド・トランプ第45代米国大統領、就任演説全文…

  • 8

    マティス国防長官日韓訪問に中国衝撃!――「狂犬」の…

  • 9

    トランプ、入国制限に反対の司法長官代行を1時間後…

  • 10

    アパホテル炎上事件は謝罪しなければ終わらない

グローバル人材を目指す

PICTURE POWER

レンズがとらえた地球のひと・すがた・みらい

日本再発見 「日本の新しいモノづくり」
定期購読
期間限定、アップルNewsstandで30日間の無料トライアル実施中!
メールマガジン登録
売り切れのないDigital版はこちら

MOOK

ニューズウィーク日本版 臨時増刊

世界がわかる国際情勢入門

絶賛発売中!

STORIES ARCHIVE

  • 2017年2月
  • 2017年1月
  • 2016年12月
  • 2016年11月
  • 2016年10月
  • 2016年9月