最新記事

高森郁哉

グーグル、人工知能の暴走を阻止する「非常ボタン」を開発中

2016年6月10日（金）17時10分
高森郁哉

wikicommons

＜人工知能（AI）が人類の敵になることへの懸念を表明する著名人が増えている。こうした懸念に応え、グーグルは、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表した＞

　数年前から、人工知能（AI）が人類の敵になることへの懸念を表明する著名人が増えている。理論物理学者のスティーブン・ホーキング博士は、自律型兵器を禁止するよう公開書簡で訴えたが、スウェーデンの哲学者ニック・ボストロム氏は著書「Superintelligence」の中で、AIが知性の点で人類を超えるとき、人類は絶滅の脅威にさらされる可能性があると論じた。

【参考記事】「スーパー人工知能」の出現に備えよ－オックスフォード大学ボストロム教授

　電気自動車のテスラ・モーターズやロケット開発のスペースXで知られる起業家イーロン・マスク氏も、ボストロム氏の著書に言及して「AIは核よりも危険になる可能性がある」とツイートした。


　こうした懸念に応え、グーグルのAI部門が今月、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表。米ニューズウィークなどが報じている。

AIが「人類の敵」になるのを防ぐアルゴリズム

　グーグルから2014年に買収されたディープマインド社が公開したのは、「Safely Interruptible Agents」（安全に中断できるエージェント）と題した論文。この中で同社は、自律学習型のエージェント（AI）が有害な振る舞いをしそうになったとき、人間のオペレーターが「big red button」（非常ボタン）を押すことで、有害な挙動が継続されるのを阻止して、安全な状態に導く仕組みを開発中だと述べている。

　論文はさらに、将来的にAIが非常ボタンを無効化する方法を学習しないよう、手動による中断操作を偽装して、AIが自らの判断で挙動を変更したように「思い込ませる」仕組みについても説明している。

　同チームが定義する「安全な中断」のポリシーに基づき、既存のAIエージェントを調べたところ、「Q-learning」などはすでに安全な中断が可能な状態で、「Sarsa」などは容易にポリシーを追加できることがわかったという。

　AIが人類に反逆する未来は、『2001年宇宙の旅』や『ターミネーター』、最近では『アベンジャーズ　エイジ・オブ・ウルトロン』など多くのSF映画で描かれてきた。こうしたモチーフが繰り返されるのは、科学技術の進歩が文明の発展を担ってきた一方で、ハイテクが雇用を奪い、核兵器などの大量破壊兵器が人類を脅かしている現実の懸念も反映してのことだろう。
　
　それに加え、創造主が創造した「もの」に反逆されるという、ギリシャ神話以来の普遍的なテーマである「父殺し」の変形と考えるなら、SF作品での言及は19世紀初頭のメアリー・シェリーによる小説『フランケンシュタイン』にまでさかのぼることができる。6月11日に日本公開となるSFスリラー映画『エクス・マキナ』にも、そうした要素が洗練された形で継承されている。

【参考記事】アンドロイド美女に深い不安を託して

今、あなたにオススメ
ニュース速報

ビジネス

英中銀、インフレ率の一時的鈍化への誤った安心感は禁
2026.03.02

ビジネス

アジア航空株下落、イラン攻撃で運航混乱・原油急騰
2026.03.02

ビジネス

伊藤忠、ペルシャ湾からの原油と石油製品の出荷に一部
2026.03.02

ワールド

イスラエル軍、レバノン各地でヒズボラ攻撃　ベイルー
2026.03.02
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：日本人が知らない AI金融の最前線
特集：日本人が知らない AI金融の最前線
2026年3月 3日号（2/25発売）

フィンテックの進化と普及で、金融はもっと高速に、もっとカジュアルに

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    BTS復活...でも、韓国エンタメが「苦境」に陥っている
  • 2
    見事なカンフーを見せた中国ヒト型ロボットのからくりとリスク
  • 3
    ドバイの空港・ホテルに被害　イランが湾岸諸国に報復攻撃、民間インフラも対象に
  • 4
    「若い連中は私を知らない」...大ヒット映画音楽の作…
  • 5
    「本当にテイラー？」「メイクの力が大きい...」テイ…
  • 6
    【銘柄】「三菱重工業」の株価上昇はどこまで続く...…
  • 7
    【銘柄】「ファナック」は新時代の主役か...フィジカ…
  • 8
    米・イスラエルの「イラン攻撃」受け、航空各社が中…
  • 9
    「高市大勝」に中国人が見せた意外な反応
  • 10
    最高指導者ハメネイ師死亡（イラン発表）、トランプ…
  • 1
    アルコールは血糖値を下げる...「脳と血管を守る」医師がすすめる意外な健康習慣
  • 2
    見事なカンフーを見せた中国ヒト型ロボットのからくりとリスク
  • 3
    村瀬心椛は「トップでなければおかしい」...スノボの謎判定に「怒りの鉄拳」、木俣椋真の1980には「ぼやき」も
  • 4
    中国、4隻目の空母は原子力艦か──世界3番目の原子力…
  • 5
    少女買春に加え、国家機密の横流しまで...アンドルー…
  • 6
    BTS復活...でも、韓国エンタメが「苦境」に陥っている
  • 7
    米国の中国依存が低下、台湾からの輸入が上回る
  • 8
    中国で今まで発見されたことがないような恐竜の化石…
  • 9
    住宅の4～5割が空き家になる地域も......今後30年で…
  • 10
    「若い連中は私を知らない」...大ヒット映画音楽の作…
  • 1
    ウクライナ戦闘機「F-16」がロシア軍「シャヘド」を空中爆破...地上から撮影の「レア映像」を公開
  • 2
    高市積極財政にアメリカが慌てる理由
  • 3
    台湾侵攻「失敗」の大きすぎる代償
  • 4
    「最恐」恐竜T・レックスの定説を覆す新研究が
  • 5
    イースター島の先住民から資源を略奪、島を「生きた…
  • 6
    アルコールは血糖値を下げる...「脳と血管を守る」医…
  • 7
    ｢ヘル・コリア｣から日本へ7万人 ── 大企業の高給より…
  • 8
    中国、パナマ運河の港湾喪失でパナマに報復──トラン…
  • 9
    命は長し、働け女たち――88歳「働くばあさん」が説く…
  • 10
    「罠に嵌められた」と主張するが...欧州で次々と摘発…
トランプ2.0記事まとめ
Real
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中