最新記事

テクノロジー

「スーパー人工知能」の出現に備えよ-オックスフォード大学ボストロム教授

It Could Wipe Us Out If We’re Not Careful

AI倫理の第一人者が情報・インターネット分野の研究者たちに放った警告

2016年3月7日(月)17時39分
スン・リー

警戒心を怠るな 人間のように賢くしようとするあまり、リスクを忘れれば人類滅亡の危機も Philippe Wojazer-REUTERS

 サンフランシスコで開かれた世界的なRSA情報セキュリティカンファレンスは、情報とインターネットのトップ研究者が一堂にする夢のような空間だ。だがもし、25年後には人間がインターネットの管理者としての資格を失っていたとしたらどうだろう?

 オックスフォード大学の哲学教授で「人類の未来研究所(Future of Humanity Insutitute)」の創設者であるニック・ボストロムは基調講演で、人工知能(AI)を人間と同じくらい賢くしようとするあまり、その潜在的な危険性を忘れてはならない、と警告した。

「その時、AIは人間にとってもはや好奇心をそそる玩具ではなくなる」と、ボストロムは言う。「それは、人類にとって最悪の発明になる」

「無限の素質」を備えた存在が

 ボストロムはAIについて3つの予測をした。1)2050年までには、AIが人間と同じ知性を持つ可能性は非常に高い。2)人間のコントロールが及ばない超知能(スーパーインテリジェント)マシンが台頭する可能性もある。3)この超知能は、技術の力で宇宙を征服するほど、あるいは人類を絶滅させられるほどの「無限の素質」をもつかもしれない。

「無限の素質」などというとニューエイジ的に聞こえるが、ボストロムはAIに関する哲学と倫理の第一人者だ。彼のAIに対する警戒心は、電気自動車のテスラ・モーターズを創業したイーロン・マスクをはじめ、多くのシリコンバレーの天才たちにも支持されている。

 ボストロムはAI研究者たちの熱気を喜ばしく思うと同時に恐れている。例えば、グーグルの人工知能がサイケデリックな「夢」を見た、という「進化」などは、ボストロムを落ち着かなくさせる。

 ボストロムはこの状況を、ギリシャ神話のミダス王の物語に重ね合わせる。ミダス王は、手に触れるものすべてが黄金に変わる魔法を神から授かったが、食べるものまでが黄金になって飢えてしまう。「我々も、扱いきれない夢の実現を求めているのではないか」とボストロムは言う。

 ボストロムがAIの専門家を対象に行ったアンケート結果によると、2040~2050年の間に人間レベルのAIができる確率は50%と、大半が回答した。「絶滅リスク」を減らす時間はまだ数十年ある。まず備えを固めよう、とボストロムは言う。「我々が生きている間に知性をもつ機械が表れるというのは、今や主流の考えになったのだから」 

ニュース速報

ビジネス

米共和党、税制改革法案・最終案の概要発表 法人税2

ビジネス

米主要株価3指数が最高値更新、税制改革実現への期待

ワールド

北朝鮮、対話には兵器実験の持続的中止が必要 米国務

ワールド

EU首脳、ブレグジット交渉「第2段階」入りを正式承

MAGAZINE

特集:日本を置き去りにする作らない製造業

2017-12・19号(12/12発売)

ものづくり神話の崩壊にうろたえる日本。新たな形の製造業が広がる世界

グローバル人材を目指す

人気ランキング

  • 1

    北朝鮮の消えた政権ナンバー2は処刑されたのか?

  • 2

    太陽系の外からやってきたナゾの天体、宇宙人の探査機の疑いで調査へ

  • 3

    金正恩の「聖地登山」はインスタ映え狙って演出か 超能力伝説でイメージ作りも

  • 4

    孤独なオタクをのみ込む極右旋風

  • 5

    ひき肉の偽装表示も99%の精度で暴く

  • 6

    中国が密かに難民キャンプ建設──北朝鮮の体制崩壊に…

  • 7

    算数が得意な富裕層の子どもと、家庭科が得意な低所…

  • 8

    歴史的急騰が続くビットコイン 仕掛人は意外にも日…

  • 9

    推定500歳!地上で最古の脊椎動物はガリレオの時代か…

  • 10

    プーチンの本音は「五輪禁止」に感謝?

  • 1

    太陽系の外からやってきたナゾの天体、宇宙人の探査機の疑いで調査へ

  • 2

    推定500歳!地上で最古の脊椎動物はガリレオの時代から生きてきた

  • 3

    EVとAIで人気のテスラ ささやかれる「自動車製造を甘く見た」ツケ

  • 4

    中国が密かに難民キャンプ建設──北朝鮮の体制崩壊に…

  • 5

    高いIQは心理・生理学的に危険――米研究

  • 6

    北の核実験で広がる「幽霊病」と苛酷な仕打ち

  • 7

    「深圳すごい、日本負けた」の嘘──中国の日本人経営…

  • 8

    北朝鮮の消えた政権ナンバー2は処刑されたのか?

  • 9

    ビットコインのために自宅を担保にするバカ、米当局…

  • 10

    金正恩を倒すための「斬首部隊」に自爆ドローンを装備

  • 1

    北朝鮮「亡命兵士」の腸が寄生虫だらけになった理由

  • 2

    北朝鮮「亡命兵士」の命を脅かす寄生虫の恐怖

  • 3

    金正恩を倒すための「斬首部隊」に自爆ドローンを装備

  • 4

    北朝鮮「兵士亡命」が戦争の引き金を引く可能性

  • 5

    米朝戦争になったら勝つのはどっち?

  • 6

    「ICBM発射映像に炎に包まれる兵士」金正恩が目撃し…

  • 7

    太陽系の外からやってきたナゾの天体、宇宙人の探査…

  • 8

    「英王室はそれでも黒人プリンセスを認めない」

  • 9

    推定500歳!地上で最古の脊椎動物はガリレオの時代か…

  • 10

    北朝鮮外務省が声明「戦争勃発は不可避、問題はいつ…

PICTURE POWER

レンズがとらえた地球のひと・すがた・みらい

胎内のような、安心感のなかでイマジネーションを膨らませる。
日本再発見 シーズン2
ニューズウィーク日本版デザイナー募集
定期購読
期間限定、アップルNewsstandで30日間の無料トライアル実施中!
メールマガジン登録
売り切れのないDigital版はこちら

MOOK

ニューズウィーク日本版 特別編集

最新版 アルツハイマー入門

絶賛発売中!

STORIES ARCHIVE

  • 2017年12月
  • 2017年11月
  • 2017年10月
  • 2017年9月
  • 2017年8月
  • 2017年7月