最新記事

高森郁哉

グーグル、人工知能の暴走を阻止する「非常ボタン」を開発中

2016年6月10日（金）17時10分
高森郁哉

wikicommons

＜人工知能（AI）が人類の敵になることへの懸念を表明する著名人が増えている。こうした懸念に応え、グーグルは、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表した＞

　数年前から、人工知能（AI）が人類の敵になることへの懸念を表明する著名人が増えている。理論物理学者のスティーブン・ホーキング博士は、自律型兵器を禁止するよう公開書簡で訴えたが、スウェーデンの哲学者ニック・ボストロム氏は著書「Superintelligence」の中で、AIが知性の点で人類を超えるとき、人類は絶滅の脅威にさらされる可能性があると論じた。

【参考記事】「スーパー人工知能」の出現に備えよ－オックスフォード大学ボストロム教授

　電気自動車のテスラ・モーターズやロケット開発のスペースXで知られる起業家イーロン・マスク氏も、ボストロム氏の著書に言及して「AIは核よりも危険になる可能性がある」とツイートした。


　こうした懸念に応え、グーグルのAI部門が今月、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表。米ニューズウィークなどが報じている。

AIが「人類の敵」になるのを防ぐアルゴリズム

　グーグルから2014年に買収されたディープマインド社が公開したのは、「Safely Interruptible Agents」（安全に中断できるエージェント）と題した論文。この中で同社は、自律学習型のエージェント（AI）が有害な振る舞いをしそうになったとき、人間のオペレーターが「big red button」（非常ボタン）を押すことで、有害な挙動が継続されるのを阻止して、安全な状態に導く仕組みを開発中だと述べている。

　論文はさらに、将来的にAIが非常ボタンを無効化する方法を学習しないよう、手動による中断操作を偽装して、AIが自らの判断で挙動を変更したように「思い込ませる」仕組みについても説明している。

　同チームが定義する「安全な中断」のポリシーに基づき、既存のAIエージェントを調べたところ、「Q-learning」などはすでに安全な中断が可能な状態で、「Sarsa」などは容易にポリシーを追加できることがわかったという。

　AIが人類に反逆する未来は、『2001年宇宙の旅』や『ターミネーター』、最近では『アベンジャーズ　エイジ・オブ・ウルトロン』など多くのSF映画で描かれてきた。こうしたモチーフが繰り返されるのは、科学技術の進歩が文明の発展を担ってきた一方で、ハイテクが雇用を奪い、核兵器などの大量破壊兵器が人類を脅かしている現実の懸念も反映してのことだろう。
　
　それに加え、創造主が創造した「もの」に反逆されるという、ギリシャ神話以来の普遍的なテーマである「父殺し」の変形と考えるなら、SF作品での言及は19世紀初頭のメアリー・シェリーによる小説『フランケンシュタイン』にまでさかのぼることができる。6月11日に日本公開となるSFスリラー映画『エクス・マキナ』にも、そうした要素が洗練された形で継承されている。

【参考記事】アンドロイド美女に深い不安を託して

今、あなたにオススメ
ニュース速報

ビジネス

アングル：中国の飲食店がシンガポールに殺到、海外展
2025.10.19

ワールド

焦点：なぜ欧州は年金制度の「ブラックホール」と向き
2025.10.19

ワールド

過度な為替変動に警戒、リスク監視が重要＝加藤財務相
2025.10.18

ワールド

アングル：ベトナムで対中感情が軟化、ＳＮＳの影響強
2025.10.18
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：日本人と参政党
特集：日本人と参政党
2025年10月21日号（10/15発売）

怒れる日本が生んだ「日本人ファースト」と参政党現象。その源泉にルポと神谷代表インタビューで迫る

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    1000人以上の女性と関係...英アンドルー王子、「称号返上を表明」も消えない生々しすぎる「罪状」
  • 2
    【クイズ】日本でツキノワグマの出没件数が「最も多い県」はどこ？
  • 3
    ギザギザした「不思議な形の耳」をした男性...「みんなそうじゃないの？」 投稿した写真が話題に
  • 4
    「認知のゆがみ」とは何なのか...あなたはどのタイプ…
  • 5
    大学生が「第3の労働力」に...物価高でバイト率、過…
  • 6
    ニッポン停滞の証か...トヨタの賭ける「未来」が関心…
  • 7
    【クイズ】世界で2番目に「リンゴの生産量」が多い国…
  • 8
    【インタビュー】参政党・神谷代表が「必ず起こる」…
  • 9
    お腹の脂肪を減らす「8つのヒント」とは？...食事以…
  • 10
    【クイズ】世界で唯一「蚊のいない国」はどこ？
  • 1
    お腹の脂肪を減らす「8つのヒント」とは？...食事以外の「2つの隠れた要因」が代謝を狂わせていた
  • 2
    1000人以上の女性と関係...英アンドルー王子、「称号返上を表明」も消えない生々しすぎる「罪状」
  • 3
    まるで『トップガン』...わずか10mの至近戦、東シナ海で「中国J-16」 vs 「ステルス機」
  • 4
    中国人が便利な「調理済み食品」を嫌うトホホな理由…
  • 5
    【クイズ】日本でツキノワグマの出没件数が「最も多…
  • 6
    フィリピンで相次ぐ大地震...日本ではあまり報道され…
  • 7
    メーガン妃の動画が「無神経」すぎる...ダイアナ妃を…
  • 8
    時代に逆行するトランプのエネルギー政策が、アメリ…
  • 9
    かばんの中身を見れば一発でわかる！「認知症になり…
  • 10
    日本で外国人から生まれた子どもが過去最多に──人口…
  • 1
    かばんの中身を見れば一発でわかる！「認知症になりやすい人」が持ち歩く5つのアイテム
  • 2
    「大谷翔平の唯一の欠点は...」ドジャース・ロバーツ監督が明かすプレーオフ戦略、監督の意外な「日本的な一面」とは？
  • 3
    カミラ王妃のキャサリン妃への「いら立ち」が話題に...「少々、お控えくださって？」
  • 4
    増加する「子どもを外注」する親たち...ネオ・ネグレ…
  • 5
    悲しみで8年間「羽をむしり続けた」オウム...新たな…
  • 6
    バフェット指数が異常値──アメリカ株に「数世代で最…
  • 7
    「日本の高齢化率は世界2位」→ダントツの1位は超意外…
  • 8
    お腹の脂肪を減らす「8つのヒント」とは？...食事以…
  • 9
    1000人以上の女性と関係...英アンドルー王子、「称号…
  • 10
    【クイズ】日本人が唯一「受賞していない」ノーベル…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中