最新記事

高森郁哉

グーグル、人工知能の暴走を阻止する「非常ボタン」を開発中

2016年6月10日(金)17時10分
高森郁哉

wikicommons

<人工知能(AI)が人類の敵になることへの懸念を表明する著名人が増えている。こうした懸念に応え、グーグルは、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表した>

 数年前から、人工知能(AI)が人類の敵になることへの懸念を表明する著名人が増えている。理論物理学者のスティーブン・ホーキング博士は、自律型兵器を禁止するよう公開書簡で訴えたが、スウェーデンの哲学者ニック・ボストロム氏は著書「Superintelligence」の中で、AIが知性の点で人類を超えるとき、人類は絶滅の脅威にさらされる可能性があると論じた。

【参考記事】「スーパー人工知能」の出現に備えよ-オックスフォード大学ボストロム教授

 電気自動車のテスラ・モーターズやロケット開発のスペースXで知られる起業家イーロン・マスク氏も、ボストロム氏の著書に言及して「AIは核よりも危険になる可能性がある」とツイートした。


 こうした懸念に応え、グーグルのAI部門が今月、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表。米ニューズウィークなどが報じている。

AIが「人類の敵」になるのを防ぐアルゴリズム

 グーグルから2014年に買収されたディープマインド社が公開したのは、「Safely Interruptible Agents」(安全に中断できるエージェント)と題した論文。この中で同社は、自律学習型のエージェント(AI)が有害な振る舞いをしそうになったとき、人間のオペレーターが「big red button」(非常ボタン)を押すことで、有害な挙動が継続されるのを阻止して、安全な状態に導く仕組みを開発中だと述べている。

 論文はさらに、将来的にAIが非常ボタンを無効化する方法を学習しないよう、手動による中断操作を偽装して、AIが自らの判断で挙動を変更したように「思い込ませる」仕組みについても説明している。

 同チームが定義する「安全な中断」のポリシーに基づき、既存のAIエージェントを調べたところ、「Q-learning」などはすでに安全な中断が可能な状態で、「Sarsa」などは容易にポリシーを追加できることがわかったという。

 AIが人類に反逆する未来は、『2001年宇宙の旅』や『ターミネーター』、最近では『アベンジャーズ エイジ・オブ・ウルトロン』など多くのSF映画で描かれてきた。こうしたモチーフが繰り返されるのは、科学技術の進歩が文明の発展を担ってきた一方で、ハイテクが雇用を奪い、核兵器などの大量破壊兵器が人類を脅かしている現実の懸念も反映してのことだろう。
 
 それに加え、創造主が創造した「もの」に反逆されるという、ギリシャ神話以来の普遍的なテーマである「父殺し」の変形と考えるなら、SF作品での言及は19世紀初頭のメアリー・シェリーによる小説『フランケンシュタイン』にまでさかのぼることができる。6月11日に日本公開となるSFスリラー映画『エクス・マキナ』にも、そうした要素が洗練された形で継承されている。

【参考記事】アンドロイド美女に深い不安を託して

ニュース速報

ワールド

イタリアで高速道路橋が崩落、少なくとも35人死亡

ワールド

トルコ、米電化製品を「ボイコット」 大統領がドル売

ワールド

英国会議事堂前で車が突っ込み2人負傷、男1人を逮捕

ビジネス

中国、固定資産投資が過去最低の伸び 一連の指標で景

MAGAZINE

特集:奇才モーリー・ロバートソンの国際情勢入門

2018-8・14号(8/ 7発売)

日本とアメリカ、世界の知られざる針路は── 異能のジャーナリストによるホンネの国際情勢解説

※次号は8/21(火)発売となります。

人気ランキング

  • 1

    亡くなった人の気配を感じたら......食べて、寝て、遊べばいい

  • 2

    死後世界も霊魂もないなら何をしてもいい──を実行した人がいた

  • 3

    「家賃は体で」、住宅難の英国で増える「スケベ大家」

  • 4

    中国大手32社が「不審死&経営難」海南航空と同じ運…

  • 5

    子供の亡骸を16日間も離さない母シャチの悲嘆「もう…

  • 6

    性的欲望をかきたてるものは人によってこんなに違う

  • 7

    「トランプが大豆産業を壊滅させた」──悲鳴を上げる…

  • 8

    サーモンを愛する「寿司男」から1.7mのサナダムシ発見

  • 9

    人類史上最も残虐な処刑は「首吊り、内臓えぐり、仕…

  • 10

    崩れ落ちる中国経済 住宅ローン地獄で家計債務がリ…

  • 1

    子供の亡骸を16日間も離さない母シャチの悲嘆「もう見ていられない」と研究者

  • 2

    ウェスト81センチの巨漢ネコ、パーフェクトボディ目指し監視下に置かれる

  • 3

    全長7mの巨大ヘビが女性を丸のみ インドネシア、被害続発する事情とは

  • 4

    「家賃は体で」、住宅難の英国で増える「スケベ大家」

  • 5

    イルカとクジラのハイブリッドを確認、世界初

  • 6

    「乱交」で種の境界を乗り越えるサル

  • 7

    人類史上最も残虐な処刑は「首吊り、内臓えぐり、仕…

  • 8

    「いっそ戦争でも起きれば」北朝鮮国内で不気味な世…

  • 9

    亡くなった人の気配を感じたら......食べて、寝て、…

  • 10

    サーモンを愛する「寿司男」から1.7mのサナダムシ発見

  • 1

    アマゾンのジャングルに1人暮らす文明と接触のない部族の映像を初公開

  • 2

    子供の亡骸を16日間も離さない母シャチの悲嘆「もう見ていられない」と研究者

  • 3

    全長7mの巨大ヘビが女性を丸のみ インドネシア、被害続発する事情とは

  • 4

    人類史上最も残虐な処刑は「首吊り、内臓えぐり、仕…

  • 5

    インドの性犯罪者が野放しになる訳

  • 6

    怒りの僧侶、高野山への外国人観光客にナナメ上の対…

  • 7

    「何か来るにゃ...」 大阪地震の瞬間の猫動画に海外…

  • 8

    イルカとクジラのハイブリッドを確認、世界初

  • 9

    「家賃は体で」、住宅難の英国で増える「スケベ大家」

  • 10

    実在した...アレクサに怒鳴る男 絶対にお断りした方…

資産運用特集 グローバル人材を目指す Newsweek 日本版を読みながらグローバルトレンドを学ぶ
日本再発見 シーズン2
定期購読
期間限定、アップルNewsstandで30日間の無料トライアル実施中!
メールマガジン登録
売り切れのないDigital版はこちら

MOOK

ニューズウィーク日本版

特別編集 ジュラシックパークシリーズ完全ガイド

絶賛発売中!

STORIES ARCHIVE

  • 2018年8月
  • 2018年7月
  • 2018年6月
  • 2018年5月
  • 2018年4月
  • 2018年3月