最新記事

高森郁哉

グーグル、人工知能の暴走を阻止する「非常ボタン」を開発中

2016年6月10日(金)17時10分
高森郁哉

wikicommons

<人工知能(AI)が人類の敵になることへの懸念を表明する著名人が増えている。こうした懸念に応え、グーグルは、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表した>

 数年前から、人工知能(AI)が人類の敵になることへの懸念を表明する著名人が増えている。理論物理学者のスティーブン・ホーキング博士は、自律型兵器を禁止するよう公開書簡で訴えたが、スウェーデンの哲学者ニック・ボストロム氏は著書「Superintelligence」の中で、AIが知性の点で人類を超えるとき、人類は絶滅の脅威にさらされる可能性があると論じた。

【参考記事】「スーパー人工知能」の出現に備えよ-オックスフォード大学ボストロム教授

 電気自動車のテスラ・モーターズやロケット開発のスペースXで知られる起業家イーロン・マスク氏も、ボストロム氏の著書に言及して「AIは核よりも危険になる可能性がある」とツイートした。


 こうした懸念に応え、グーグルのAI部門が今月、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表。米ニューズウィークなどが報じている。

AIが「人類の敵」になるのを防ぐアルゴリズム

 グーグルから2014年に買収されたディープマインド社が公開したのは、「Safely Interruptible Agents」(安全に中断できるエージェント)と題した論文。この中で同社は、自律学習型のエージェント(AI)が有害な振る舞いをしそうになったとき、人間のオペレーターが「big red button」(非常ボタン)を押すことで、有害な挙動が継続されるのを阻止して、安全な状態に導く仕組みを開発中だと述べている。

 論文はさらに、将来的にAIが非常ボタンを無効化する方法を学習しないよう、手動による中断操作を偽装して、AIが自らの判断で挙動を変更したように「思い込ませる」仕組みについても説明している。

 同チームが定義する「安全な中断」のポリシーに基づき、既存のAIエージェントを調べたところ、「Q-learning」などはすでに安全な中断が可能な状態で、「Sarsa」などは容易にポリシーを追加できることがわかったという。

 AIが人類に反逆する未来は、『2001年宇宙の旅』や『ターミネーター』、最近では『アベンジャーズ エイジ・オブ・ウルトロン』など多くのSF映画で描かれてきた。こうしたモチーフが繰り返されるのは、科学技術の進歩が文明の発展を担ってきた一方で、ハイテクが雇用を奪い、核兵器などの大量破壊兵器が人類を脅かしている現実の懸念も反映してのことだろう。
 
 それに加え、創造主が創造した「もの」に反逆されるという、ギリシャ神話以来の普遍的なテーマである「父殺し」の変形と考えるなら、SF作品での言及は19世紀初頭のメアリー・シェリーによる小説『フランケンシュタイン』にまでさかのぼることができる。6月11日に日本公開となるSFスリラー映画『エクス・マキナ』にも、そうした要素が洗練された形で継承されている。

【参考記事】アンドロイド美女に深い不安を託して

MAGAZINE

特集:中国発グローバルアプリ TikTokの衝撃

2018-12・25号(12/18発売)

世界に広がる中国発の動画アプリTikTok 10代・20代が夢中になるその秘密とは

人気ランキング

  • 1

    ミス・ユニバース場外戦 米国代表「英語話せない」とカンボジア代表を嘲笑し大炎上

  • 2

    気管支の形状に固まったリアルな血の塊が吐き出される

  • 3

    これはひどい! ミス・ユニバース代表の「米朝首脳会談ドレス」に非難ごうごう

  • 4

    邦人4人に禁固刑判決のインドネシア 金採掘場を視察…

  • 5

    「ディズニーパークに遺灰がまかれている」という都…

  • 6

    29年前の「女子高校生コンクリート詰め殺人事件」の…

  • 7

    フィリピンはゴミ捨て場か!と反韓の声 韓国業者が…

  • 8

    「中国はクソ」 アリババにオワコンにされたドルチ…

  • 9

    韓国カフェ:ゴミ対策で使い捨てカップ禁止にしたら…

  • 10

    あの〈抗日〉映画「軍艦島」が思わぬ失速 韓国で非…

  • 1

    ミス・ユニバース場外戦 米国代表「英語話せない」とカンボジア代表を嘲笑し大炎上

  • 2

    これはひどい! ミス・ユニバース代表の「米朝首脳会談ドレス」に非難ごうごう

  • 3

    気管支の形状に固まったリアルな血の塊が吐き出される

  • 4

    地下5キロメートルで「巨大な生物圏」が発見される

  • 5

    「中国はクソ」 アリババにオワコンにされたドルチ…

  • 6

    【動画】ロシアの「最先端ロボット」には......実は…

  • 7

    「人肉を食べ飽きた」呪術師らの公判で明らかになっ…

  • 8

    「人肉は食べ飽きた」男、終身刑に

  • 9

    「ディズニーパークに遺灰がまかれている」という都…

  • 10

    フランス人の自信の秘密は「性教育」にあった!? 実…

  • 1

    ミス・ユニバース場外戦 米国代表「英語話せない」とカンボジア代表を嘲笑し大炎上

  • 2

    これはひどい! ミス・ユニバース代表の「米朝首脳会談ドレス」に非難ごうごう

  • 3

    生きるために自分の足を噛みちぎった犬ルークの強さ

  • 4

    「人肉を食べ飽きた」呪術師らの公判で明らかになっ…

  • 5

    全長7mの巨大ヘビが女性を丸のみ インドネシア、…

  • 6

    恋人を殺して食べたロシア人の男、詩で無罪を訴え

  • 7

    フランス人の自信の秘密は「性教育」にあった!? 実…

  • 8

    日本がタイ版新幹線から手を引き始めた理由

  • 9

    カルロス・ゴーン逮捕、アメリカでどう報じられたか

  • 10

    「売春島」三重県にあった日本最後の「桃源郷」はい…

資産運用特集 グローバル人材を目指す Newsweek 日本版を読みながらグローバルトレンドを学ぶ
日本再発見 シーズン2
「ニューズウィーク日本版」編集記者を募集
デジタル/プリントメディア広告営業部員を募集
定期購読
期間限定、アップルNewsstandで30日間の無料トライアル実施中!
メールマガジン登録
売り切れのないDigital版はこちら

MOOK

ニューズウィーク日本版

ニューズウィーク日本版特別編集 レゴのすべて

絶賛発売中!

STORIES ARCHIVE

  • 2018年12月
  • 2018年11月
  • 2018年10月
  • 2018年9月
  • 2018年8月
  • 2018年7月