最新記事

高森郁哉

グーグル、人工知能の暴走を阻止する「非常ボタン」を開発中

2016年6月10日（金）17時10分
高森郁哉

wikicommons

＜人工知能（AI）が人類の敵になることへの懸念を表明する著名人が増えている。こうした懸念に応え、グーグルは、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表した＞

　数年前から、人工知能（AI）が人類の敵になることへの懸念を表明する著名人が増えている。理論物理学者のスティーブン・ホーキング博士は、自律型兵器を禁止するよう公開書簡で訴えたが、スウェーデンの哲学者ニック・ボストロム氏は著書「Superintelligence」の中で、AIが知性の点で人類を超えるとき、人類は絶滅の脅威にさらされる可能性があると論じた。

【参考記事】「スーパー人工知能」の出現に備えよ－オックスフォード大学ボストロム教授

　電気自動車のテスラ・モーターズやロケット開発のスペースXで知られる起業家イーロン・マスク氏も、ボストロム氏の著書に言及して「AIは核よりも危険になる可能性がある」とツイートした。


　こうした懸念に応え、グーグルのAI部門が今月、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表。米ニューズウィークなどが報じている。

AIが「人類の敵」になるのを防ぐアルゴリズム

　グーグルから2014年に買収されたディープマインド社が公開したのは、「Safely Interruptible Agents」（安全に中断できるエージェント）と題した論文。この中で同社は、自律学習型のエージェント（AI）が有害な振る舞いをしそうになったとき、人間のオペレーターが「big red button」（非常ボタン）を押すことで、有害な挙動が継続されるのを阻止して、安全な状態に導く仕組みを開発中だと述べている。

　論文はさらに、将来的にAIが非常ボタンを無効化する方法を学習しないよう、手動による中断操作を偽装して、AIが自らの判断で挙動を変更したように「思い込ませる」仕組みについても説明している。

　同チームが定義する「安全な中断」のポリシーに基づき、既存のAIエージェントを調べたところ、「Q-learning」などはすでに安全な中断が可能な状態で、「Sarsa」などは容易にポリシーを追加できることがわかったという。

　AIが人類に反逆する未来は、『2001年宇宙の旅』や『ターミネーター』、最近では『アベンジャーズ　エイジ・オブ・ウルトロン』など多くのSF映画で描かれてきた。こうしたモチーフが繰り返されるのは、科学技術の進歩が文明の発展を担ってきた一方で、ハイテクが雇用を奪い、核兵器などの大量破壊兵器が人類を脅かしている現実の懸念も反映してのことだろう。
　
　それに加え、創造主が創造した「もの」に反逆されるという、ギリシャ神話以来の普遍的なテーマである「父殺し」の変形と考えるなら、SF作品での言及は19世紀初頭のメアリー・シェリーによる小説『フランケンシュタイン』にまでさかのぼることができる。6月11日に日本公開となるSFスリラー映画『エクス・マキナ』にも、そうした要素が洗練された形で継承されている。

【参考記事】アンドロイド美女に深い不安を託して

今、あなたにオススメ
ニュース速報

ビジネス

英サービスＰＭＩ、11月は51.3に低下　予算案控
2025.12.03

ワールド

アングル：内戦下のスーダンで相次ぐ病院襲撃、生き延
2025.12.03

ビジネス

ＪＦＥ、インド一貫製鉄所運営で合弁　約2700億円
2025.12.03

ビジネス

エアバス、今年の納入目標引き下げ　主力機で部品不具
2025.12.03
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：日本時代劇の挑戦
特集：日本時代劇の挑戦
2025年12月 9日号（12/ 2発売）

『七人の侍』『座頭市』『SHOGUN』......世界が愛した名作とメイド・イン・ジャパンの新時代劇『イクサガミ』の大志

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    人生の忙しさの9割はムダ...ひろゆきが語る「休む勇気」
  • 2
    大気質指数200超え！テヘランのスモッグは「殺人レベル」、最悪の環境危機の原因とは？
  • 3
    トランプ支持率がさらに低迷、保守地盤でも民主党が猛追
  • 4
    日本酒の蔵元として初の快挙...スコッチの改革に寄与…
  • 5
    7歳の息子に何が？ 学校で描いた「自画像」が奇妙す…
  • 6
    コンセントが足りない！...パナソニックが「四隅配置…
  • 7
    若者から中高年まで ── 韓国を襲う｢自殺の連鎖｣が止…
  • 8
    【クイズ】日本で2番目に「ホタテの漁獲量」が多い県…
  • 9
    海底ケーブルを守れ──NATOが導入する新型水中ドロー…
  • 10
    イスラエル軍幹部が人生を賭けた内部告発...沈黙させ…
  • 1
    インド国産戦闘機に一体何が？　ドバイ航空ショーで墜落事故、浮き彫りになるインド空軍の課題
  • 2
    7歳の息子に何が？ 学校で描いた「自画像」が奇妙すぎた...「心配すべき？」と母親がネットで相談
  • 3
    【最先端戦闘機】ミラージュ、F16、グリペン、ラファール勢ぞろい　ウクライナ空軍は戦闘機の「見本市」状態
  • 4
    100年以上宇宙最大の謎だった「ダークマター」の正体…
  • 5
    【クイズ】次のうち、マウスウォッシュと同じ効果の…
  • 6
    膝が痛くても足腰が弱くても、一生ぐんぐん歩けるよ…
  • 7
    128人死亡、200人以上行方不明...香港最悪の火災現場…
  • 8
    【寝耳に水】ヘンリー王子＆メーガン妃が「大焦り」…
  • 9
    【クイズ】世界遺産が「最も多い国」はどこ？
  • 10
    【銘柄】関電工、きんでんが上昇トレンド一直線...業…
  • 1
    東京がニューヨークを上回り「世界最大の経済都市」に...日本からは、もう1都市圏がトップ10入り
  • 2
    一瞬にして「巨大な橋が消えた」...中国・「完成直後」の橋が崩落する瞬間を捉えた「衝撃映像」に広がる疑念
  • 3
    「不気味すぎる...」カップルの写真に映り込んだ「謎の存在」がSNSで話題に、その正体とは？
  • 4
    【クイズ】本州で唯一「クマが生息していない県」は…
  • 5
    【写真・動画】世界最大のクモの巣
  • 6
    高速で回転しながら「地上に落下」...トルコの軍用輸…
  • 7
    「999段の階段」を落下...中国・自動車メーカーがPR…
  • 8
    まるで老人...ロシア初の「AIヒト型ロボット」がお披…
  • 9
    「髪形がおかしい...」実写版『モアナ』予告編に批判…
  • 10
    膝が痛くても足腰が弱くても、一生ぐんぐん歩けるよ…
トランプ2.0記事まとめ
Real
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中