最新記事

テクノロジー

「スーパー人工知能」の出現に備えよ-オックスフォード大学ボストロム教授

It Could Wipe Us Out If We’re Not Careful

AI倫理の第一人者が情報・インターネット分野の研究者たちに放った警告

2016年3月7日(月)17時39分
スン・リー

警戒心を怠るな 人間のように賢くしようとするあまり、リスクを忘れれば人類滅亡の危機も Philippe Wojazer-REUTERS

 サンフランシスコで開かれた世界的なRSA情報セキュリティカンファレンスは、情報とインターネットのトップ研究者が一堂にする夢のような空間だ。だがもし、25年後には人間がインターネットの管理者としての資格を失っていたとしたらどうだろう?

 オックスフォード大学の哲学教授で「人類の未来研究所(Future of Humanity Insutitute)」の創設者であるニック・ボストロムは基調講演で、人工知能(AI)を人間と同じくらい賢くしようとするあまり、その潜在的な危険性を忘れてはならない、と警告した。

「その時、AIは人間にとってもはや好奇心をそそる玩具ではなくなる」と、ボストロムは言う。「それは、人類にとって最悪の発明になる」

「無限の素質」を備えた存在が

 ボストロムはAIについて3つの予測をした。1)2050年までには、AIが人間と同じ知性を持つ可能性は非常に高い。2)人間のコントロールが及ばない超知能(スーパーインテリジェント)マシンが台頭する可能性もある。3)この超知能は、技術の力で宇宙を征服するほど、あるいは人類を絶滅させられるほどの「無限の素質」をもつかもしれない。

「無限の素質」などというとニューエイジ的に聞こえるが、ボストロムはAIに関する哲学と倫理の第一人者だ。彼のAIに対する警戒心は、電気自動車のテスラ・モーターズを創業したイーロン・マスクをはじめ、多くのシリコンバレーの天才たちにも支持されている。

 ボストロムはAI研究者たちの熱気を喜ばしく思うと同時に恐れている。例えば、グーグルの人工知能がサイケデリックな「夢」を見た、という「進化」などは、ボストロムを落ち着かなくさせる。

 ボストロムはこの状況を、ギリシャ神話のミダス王の物語に重ね合わせる。ミダス王は、手に触れるものすべてが黄金に変わる魔法を神から授かったが、食べるものまでが黄金になって飢えてしまう。「我々も、扱いきれない夢の実現を求めているのではないか」とボストロムは言う。

 ボストロムがAIの専門家を対象に行ったアンケート結果によると、2040~2050年の間に人間レベルのAIができる確率は50%と、大半が回答した。「絶滅リスク」を減らす時間はまだ数十年ある。まず備えを固めよう、とボストロムは言う。「我々が生きている間に知性をもつ機械が表れるというのは、今や主流の考えになったのだから」 

ニュース速報

ビジネス

ドルが対スイスフランで1カ月ぶり安値、安全通貨に買

ビジネス

米国株は反落、銀行株やアップルに売り

ビジネス

ドイツ銀行の苦境鮮明、選挙控え救済に抵抗強く 資金

ビジネス

米利上げを急ぐ必要はない=ミネアポリス連銀総裁

MAGAZINE

特集:進化する中国軍

2016-10・ 4号(9/27発売)

高学歴人材、最新鋭兵器、洗練された組織......。かつてのイメージを覆す人民解放軍の知られざる変貌

人気ランキング

  • 1

    アーティスツ(1):会田誠の不安、村上隆の絶望

  • 2

    オーストラリア南部の州全土が停電、再生エネルギーに過度の依存へ疑問符

  • 3

    ようやく金正恩氏への「遠慮」をやめた韓国の政治家たち

  • 4

    ブルキニを禁じたフランスのパリがヌーディスト解禁へ

  • 5

    OPECが1日25万バレル以上の減産で合意、8年ぶり

  • 6

    スマホに潜む「悪魔」が中国人を脅かす

  • 7

    北朝鮮の女子大生が拷問に耐えきれず選んだ道とは...

  • 8

    トランプvsクリントンTV討論会、視聴者数は過去最多の8400万人

  • 9

    最近、中国経済のニュースが少ない理由

  • 10

    期待を遥かに超えるアクロバットな舞台、スーパー僧侶たちの『スートラ』初来日

  • 1

    クルーニー夫妻、虐殺でISISを告発。「覚悟はできている」

  • 2

    エジプトの過激派にナチスからの地雷の贈り物

  • 3

    北朝鮮の女子大生が拷問に耐えきれず選んだ道とは...

  • 4

    中国機内誌が差別的記述、撤回しても消せない傍若無人ぶり

  • 5

    安楽死が合法的でなければ、私はとうに自殺していた

  • 6

    討論初戦はヒラリー圧勝、それでも読めない現状不満層の動向

  • 7

    ロシアの最新型原潜、極東に配備

  • 8

    米テレビ討論、クリントン「二重の負担」で不利

  • 9

    ヨーロッパを追われアメリカに逃れるロマの人々

  • 10

    アーティスツ(1):会田誠の不安、村上隆の絶望

  • 1

    金正恩「公式行事での姿勢が悪い」と副首相を処刑

  • 2

    北朝鮮の女子大生が拷問に耐えきれず選んだ道とは...

  • 3

    クルーニー夫妻、虐殺でISISを告発。「覚悟はできている」

  • 4

    中国で性奴隷にされる脱北女性

  • 5

    改めて今、福原愛が中国人に愛されている理由を分析する

  • 6

    蓮舫氏へ、同じ「元・中国人、現・日本人」としての忠言

  • 7

    シロクマに包囲され逃げられないロシア観測隊、番犬犠牲に

  • 8

    「スタバやアマゾンはソーセージ屋台1軒より納税額が少ない」オーストリア首相が猛批判

  • 9

    「お母さんがねたので死にます」と自殺した子の母と闘った教師たち

  • 10

    核攻撃の兆候があれば、韓国は平壌を焼き尽くす

 日本再発見 「東京のワンテーマ・ミュージアム」
アンケート調査
定期購読
期間限定、アップルNewsstandで30日間の無料トライアル実施中!
メールマガジン登録
売り切れのないDigital版はこちら

MOOK

ニューズウィーク日本版別冊

0歳からの教育 育児編

絶賛発売中!

コラム

パックン(パトリック・ハーラン)

盛り土は気になるけど、北方領土もね!

辣椒(ラージャオ、王立銘)

スマホに潜む「悪魔」が中国人を脅かす

STORIES ARCHIVE

  • 2016年9月
  • 2016年8月
  • 2016年7月
  • 2016年6月
  • 2016年5月
  • 2016年4月