最新記事

高森郁哉

グーグル、人工知能の暴走を阻止する「非常ボタン」を開発中

2016年6月10日（金）17時10分
高森郁哉

wikicommons

＜人工知能（AI）が人類の敵になることへの懸念を表明する著名人が増えている。こうした懸念に応え、グーグルは、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表した＞

　数年前から、人工知能（AI）が人類の敵になることへの懸念を表明する著名人が増えている。理論物理学者のスティーブン・ホーキング博士は、自律型兵器を禁止するよう公開書簡で訴えたが、スウェーデンの哲学者ニック・ボストロム氏は著書「Superintelligence」の中で、AIが知性の点で人類を超えるとき、人類は絶滅の脅威にさらされる可能性があると論じた。

【参考記事】「スーパー人工知能」の出現に備えよ－オックスフォード大学ボストロム教授

　電気自動車のテスラ・モーターズやロケット開発のスペースXで知られる起業家イーロン・マスク氏も、ボストロム氏の著書に言及して「AIは核よりも危険になる可能性がある」とツイートした。


　こうした懸念に応え、グーグルのAI部門が今月、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表。米ニューズウィークなどが報じている。

AIが「人類の敵」になるのを防ぐアルゴリズム

　グーグルから2014年に買収されたディープマインド社が公開したのは、「Safely Interruptible Agents」（安全に中断できるエージェント）と題した論文。この中で同社は、自律学習型のエージェント（AI）が有害な振る舞いをしそうになったとき、人間のオペレーターが「big red button」（非常ボタン）を押すことで、有害な挙動が継続されるのを阻止して、安全な状態に導く仕組みを開発中だと述べている。

　論文はさらに、将来的にAIが非常ボタンを無効化する方法を学習しないよう、手動による中断操作を偽装して、AIが自らの判断で挙動を変更したように「思い込ませる」仕組みについても説明している。

　同チームが定義する「安全な中断」のポリシーに基づき、既存のAIエージェントを調べたところ、「Q-learning」などはすでに安全な中断が可能な状態で、「Sarsa」などは容易にポリシーを追加できることがわかったという。

　AIが人類に反逆する未来は、『2001年宇宙の旅』や『ターミネーター』、最近では『アベンジャーズ　エイジ・オブ・ウルトロン』など多くのSF映画で描かれてきた。こうしたモチーフが繰り返されるのは、科学技術の進歩が文明の発展を担ってきた一方で、ハイテクが雇用を奪い、核兵器などの大量破壊兵器が人類を脅かしている現実の懸念も反映してのことだろう。
　
　それに加え、創造主が創造した「もの」に反逆されるという、ギリシャ神話以来の普遍的なテーマである「父殺し」の変形と考えるなら、SF作品での言及は19世紀初頭のメアリー・シェリーによる小説『フランケンシュタイン』にまでさかのぼることができる。6月11日に日本公開となるSFスリラー映画『エクス・マキナ』にも、そうした要素が洗練された形で継承されている。

【参考記事】アンドロイド美女に深い不安を託して

今、あなたにオススメ
ニュース速報

ビジネス

日経平均は反落で寄り付く、週明けの米株安の流れ引き
2025.08.26

ワールド

米朝首脳会談の開催提案、韓国大統領がトランプ氏との
2025.08.26

ビジネス

トランプ氏、ＡＢＣとＮＢＣの放送免許剥奪示唆　ＦＣ
2025.08.26

ワールド

大韓航空、ボーイング機103機発注　米韓首脳会談に
2025.08.26
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：健康長寿の筋トレ入門
特集：健康長寿の筋トレ入門
2025年9月 2日号（8/26発売）

「何歳から始めても遅すぎることはない」――長寿時代の今こそ筋力の大切さを見直す時

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    プール後の20代女性の素肌に「無数の発疹」...ネット民が「塩素かぶれ」じゃないと見抜いたワケ
  • 2
    皮膚の内側に虫がいるの？ 投稿された「奇妙な斑点」の正体...医師が回答した「人獣共通感染症」とは
  • 3
    飛行機内で隣の客が「最悪」のマナー違反、「体を密着させ...」 女性客が投稿した写真に批判殺到
  • 4
    「死ぬほど怖い」「気づかず飛び込んでたら...」家の…
  • 5
    なぜ筋トレは「自重トレーニング」一択なのか？...筋…
  • 6
    顔面が「異様な突起」に覆われたリス...「触手の生え…
  • 7
    アメリカの農地に「中国のソーラーパネルは要らない…
  • 8
    【写真特集】「世界最大の湖」カスピ海が縮んでいく…
  • 9
    「ゴッホ展　家族がつないだ画家の夢」（東京会場） …
  • 10
    「あなた誰？」保育園から帰ってきた3歳の娘が「別人…
  • 1
    「まさかの真犯人」にネット爆笑...大家から再三「果物泥棒」と疑われた女性が無実を証明した「証拠映像」が話題に
  • 2
    「レプトスピラ症」が大規模流行中...ヒトやペットに感染、最悪の場合死亡も
  • 3
    「あなた誰？」保育園から帰ってきた3歳の娘が「別人」だった...母親によるビフォーアフター画像にSNS驚愕
  • 4
    「死ぬほど怖い」「気づかず飛び込んでたら...」家の…
  • 5
    プール後の20代女性の素肌に「無数の発疹」...ネット…
  • 6
    中国で「妊娠ロボット」発売か――妊娠期間も含め「自…
  • 7
    皮膚の内側に虫がいるの？ 投稿された「奇妙な斑点」…
  • 8
    なぜ筋トレは「自重トレーニング」一択なのか？...筋…
  • 9
    飛行機内で隣の客が「最悪」のマナー違反、「体を密…
  • 10
    20代で「統合失調症」と診断された女性...「自分は精…
  • 1
    「週4回が理想です」...老化防止に効くマスターベーション、医師が語る熟年世代のセルフケア
  • 2
    こんな症状が出たら「メンタル赤信号」...心療内科医が伝授、「働くための」心とカラダの守り方とは？
  • 3
    「自律神経を強化し、脂肪燃焼を促進する」子供も大人も大好きな5つの食べ物
  • 4
    デカすぎ...母親の骨盤を砕いて生まれてきた「超巨大…
  • 5
    デンマークの動物園、飼えなくなったペットの寄付を…
  • 6
    「まさかの真犯人」にネット爆笑...大家から再三「果…
  • 7
    ウォーキングだけでは「寝たきり」は防げない──自宅…
  • 8
    山道で鉢合わせ、超至近距離に3頭...ハイイログマの…
  • 9
    「レプトスピラ症」が大規模流行中...ヒトやペットに…
  • 10
    将来ADHDを発症する「幼少期の兆候」が明らかに？...…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中