最新記事

高森郁哉

グーグル、人工知能の暴走を阻止する「非常ボタン」を開発中

2016年6月10日（金）17時10分
高森郁哉

wikicommons

＜人工知能（AI）が人類の敵になることへの懸念を表明する著名人が増えている。こうした懸念に応え、グーグルは、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表した＞

　数年前から、人工知能（AI）が人類の敵になることへの懸念を表明する著名人が増えている。理論物理学者のスティーブン・ホーキング博士は、自律型兵器を禁止するよう公開書簡で訴えたが、スウェーデンの哲学者ニック・ボストロム氏は著書「Superintelligence」の中で、AIが知性の点で人類を超えるとき、人類は絶滅の脅威にさらされる可能性があると論じた。

【参考記事】「スーパー人工知能」の出現に備えよ－オックスフォード大学ボストロム教授

　電気自動車のテスラ・モーターズやロケット開発のスペースXで知られる起業家イーロン・マスク氏も、ボストロム氏の著書に言及して「AIは核よりも危険になる可能性がある」とツイートした。


　こうした懸念に応え、グーグルのAI部門が今月、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表。米ニューズウィークなどが報じている。

AIが「人類の敵」になるのを防ぐアルゴリズム

　グーグルから2014年に買収されたディープマインド社が公開したのは、「Safely Interruptible Agents」（安全に中断できるエージェント）と題した論文。この中で同社は、自律学習型のエージェント（AI）が有害な振る舞いをしそうになったとき、人間のオペレーターが「big red button」（非常ボタン）を押すことで、有害な挙動が継続されるのを阻止して、安全な状態に導く仕組みを開発中だと述べている。

　論文はさらに、将来的にAIが非常ボタンを無効化する方法を学習しないよう、手動による中断操作を偽装して、AIが自らの判断で挙動を変更したように「思い込ませる」仕組みについても説明している。

　同チームが定義する「安全な中断」のポリシーに基づき、既存のAIエージェントを調べたところ、「Q-learning」などはすでに安全な中断が可能な状態で、「Sarsa」などは容易にポリシーを追加できることがわかったという。

　AIが人類に反逆する未来は、『2001年宇宙の旅』や『ターミネーター』、最近では『アベンジャーズ　エイジ・オブ・ウルトロン』など多くのSF映画で描かれてきた。こうしたモチーフが繰り返されるのは、科学技術の進歩が文明の発展を担ってきた一方で、ハイテクが雇用を奪い、核兵器などの大量破壊兵器が人類を脅かしている現実の懸念も反映してのことだろう。
　
　それに加え、創造主が創造した「もの」に反逆されるという、ギリシャ神話以来の普遍的なテーマである「父殺し」の変形と考えるなら、SF作品での言及は19世紀初頭のメアリー・シェリーによる小説『フランケンシュタイン』にまでさかのぼることができる。6月11日に日本公開となるSFスリラー映画『エクス・マキナ』にも、そうした要素が洗練された形で継承されている。

【参考記事】アンドロイド美女に深い不安を託して

今、あなたにオススメ
ニュース速報

ビジネス

米国株式市場＝ダウ初の5万ドル突破、エヌビディア急
2026.02.07

ワールド

パキスタン首都の自爆攻撃、「イスラム国」が犯行声明
2026.02.07

ワールド

米ホワイトハウス、人種差別的な動画投稿を削除　オバ
2026.02.07

ビジネス

ジェファーソンＦＲＢ副議長、26年見通し「慎重なが
2026.02.07
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：トランプの帝国
特集：トランプの帝国
2026年2月10日号（2/ 3発売）

南北アメリカの完全支配を狙うトランプの戦略は中国を利し、世界の経済勢力図を完全に塗り替える

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    米戦闘機、空母エイブラハム・リンカーンに接近したイラン製ドローンを撃墜
  • 2
    エヌビディア「一強時代」がついに終焉？割って入った「最強ライバル」の名前
  • 3
    がんの約4割は、日々の取り組みで「予防可能」...予防のために、絶対にしてはいけないこととは？
  • 4
    韓国ダークツーリズムが変わる　日本統治時代から｢南…
  • 5
    イースター島の先住民から資源を略奪、島を「生きた…
  • 6
    地球の近くで「第2の地球」が発見されたかも！　その…
  • 7
    鉱物資源の安定供給を守るために必要なことは「中国…
  • 8
    「右足全体が食われた」...突如ビーチに現れたサメが…
  • 9
    グラフが示す「米国人のトランプ離れ」の実態...最新…
  • 10
    日経平均5万4000円台でも東京ディズニー株は低迷...…
  • 1
    高市積極財政にアメリカが慌てる理由
  • 2
    日本への威圧を強める中国...「レアアース依存」から脱却する道筋
  • 3
    致死率は最大75％のニパウイルスが、世界規模で感染拡大する可能性は？　感染症の専門家の見解
  • 4
    「出禁」も覚悟？ ディズニーランドで緊急停止した乗…
  • 5
    米戦闘機、空母エイブラハム・リンカーンに接近した…
  • 6
    グラフが示す「米国人のトランプ離れ」の実態...最新…
  • 7
    高市首相の発言は正しかった...「対中圧力」と「揺れ…
  • 8
    エプスタインが政権中枢の情報をプーチンに流してい…
  • 9
    関節が弱ると人生も鈍る...健康長寿は「自重筋トレ」…
  • 10
    エヌビディア「一強時代」がついに終焉？割って入っ…
  • 1
    【クイズ】世界で最も「レアアースの埋蔵量」が多い国はどこ？【2025年の話題クイズ5選】
  • 2
    【クイズ】致死率50～75%...インドで感染拡大「ニパウイルス」の感染源となる動物は？
  • 3
    中国製防空レーダーは米軍のベネズエラ攻撃に屈した──台湾高官が分析
  • 4
    高市積極財政にアメリカが慌てる理由
  • 5
    セーターが消えた冬 ── 暖かさの主戦場が｢インナー｣…
  • 6
    海上自衛隊が水中無人機（UUV）を導入　中国の海軍拡…
  • 7
    防衛省が「新SSM」の映像を公開、ノルウェー・コング…
  • 8
    【クイズ】世界で唯一「蚊のいない国」はどこ？【202…
  • 9
    中国で大規模な金鉱脈の発見が相次ぐ...埋蔵量は世界…
  • 10
    【クイズ】韓国を抜いて1位に...世界で最も「出生率…
トランプ2.0記事まとめ
Real
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中