最新記事

高森郁哉

グーグル、人工知能の暴走を阻止する「非常ボタン」を開発中

2016年6月10日（金）17時10分
高森郁哉

wikicommons

＜人工知能（AI）が人類の敵になることへの懸念を表明する著名人が増えている。こうした懸念に応え、グーグルは、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表した＞

　数年前から、人工知能（AI）が人類の敵になることへの懸念を表明する著名人が増えている。理論物理学者のスティーブン・ホーキング博士は、自律型兵器を禁止するよう公開書簡で訴えたが、スウェーデンの哲学者ニック・ボストロム氏は著書「Superintelligence」の中で、AIが知性の点で人類を超えるとき、人類は絶滅の脅威にさらされる可能性があると論じた。

【参考記事】「スーパー人工知能」の出現に備えよ－オックスフォード大学ボストロム教授

　電気自動車のテスラ・モーターズやロケット開発のスペースXで知られる起業家イーロン・マスク氏も、ボストロム氏の著書に言及して「AIは核よりも危険になる可能性がある」とツイートした。


　こうした懸念に応え、グーグルのAI部門が今月、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表。米ニューズウィークなどが報じている。

AIが「人類の敵」になるのを防ぐアルゴリズム

　グーグルから2014年に買収されたディープマインド社が公開したのは、「Safely Interruptible Agents」（安全に中断できるエージェント）と題した論文。この中で同社は、自律学習型のエージェント（AI）が有害な振る舞いをしそうになったとき、人間のオペレーターが「big red button」（非常ボタン）を押すことで、有害な挙動が継続されるのを阻止して、安全な状態に導く仕組みを開発中だと述べている。

　論文はさらに、将来的にAIが非常ボタンを無効化する方法を学習しないよう、手動による中断操作を偽装して、AIが自らの判断で挙動を変更したように「思い込ませる」仕組みについても説明している。

　同チームが定義する「安全な中断」のポリシーに基づき、既存のAIエージェントを調べたところ、「Q-learning」などはすでに安全な中断が可能な状態で、「Sarsa」などは容易にポリシーを追加できることがわかったという。

　AIが人類に反逆する未来は、『2001年宇宙の旅』や『ターミネーター』、最近では『アベンジャーズ　エイジ・オブ・ウルトロン』など多くのSF映画で描かれてきた。こうしたモチーフが繰り返されるのは、科学技術の進歩が文明の発展を担ってきた一方で、ハイテクが雇用を奪い、核兵器などの大量破壊兵器が人類を脅かしている現実の懸念も反映してのことだろう。
　
　それに加え、創造主が創造した「もの」に反逆されるという、ギリシャ神話以来の普遍的なテーマである「父殺し」の変形と考えるなら、SF作品での言及は19世紀初頭のメアリー・シェリーによる小説『フランケンシュタイン』にまでさかのぼることができる。6月11日に日本公開となるSFスリラー映画『エクス・マキナ』にも、そうした要素が洗練された形で継承されている。

【参考記事】アンドロイド美女に深い不安を託して

今、あなたにオススメ
ニュース速報

ビジネス

ユニリーバの食品事業、米マコーミックが買収提案
2026.03.20

ビジネス

アマゾンが再びスマホ開発、「Transformer
2026.03.20

ビジネス

ユーロ圏経常黒字、1月は379億ユーロへ拡大　増加
2026.03.20

ビジネス

ＥＣＢ、利下げより利上げの可能性高い＝仏中銀総裁
2026.03.20
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：イラン革命防衛隊
特集：イラン革命防衛隊
2026年3月24日号（3/17発売）

イスラム神権国家を裏からコントロールする謎の軍隊の歴史と知られざる実力

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    キャサリン皇太子妃、ナイジェリア大統領夫妻出迎え時の装いが話題――「ファッション外交」に注目
  • 2
    「ノーと言えるスペイン」の背景に国防意識...次期スペイン女王は空軍で訓練中、問われる「軍を知る君主」
  • 3
    韓国製ミサイル天弓-II、イラン戦争で96%迎撃の衝撃 ──「成功」が招く自国防衛の弱体化
  • 4
    「マツダ・日産・スバル」が大ピンチ？...オーストラ…
  • 5
    第6回大会を終えて曲がり角に来たWBC
  • 6
    数時間以内に死に至ることも...若者の間で集団感染が…
  • 7
    温暖化で増えた？　サンマやサケ減少の裏で激増する…
  • 8
    原油高騰よりも米国経済・米株市場の行方を左右する…
  • 9
    【衛星画像】イラン情勢緊迫、米強襲揚陸艦「トリポ…
  • 10
    「嘘でしょ！」空港で「まさかの持ち物」を武器と勘…
  • 1
    温暖化で増えた？　サンマやサケ減少の裏で激増する「安価で栄養価の高い魚」の正体
  • 2
    「ノーと言えるスペイン」の背景に国防意識...次期スペイン女王は空軍で訓練中、問われる「軍を知る君主」
  • 3
    数時間以内に死に至ることも...若者の間で集団感染が発生し既に死者も、感染源は「ナイトクラブ」
  • 4
    キャサリン皇太子妃、ナイジェリア大統領夫妻出迎え…
  • 5
    米軍も防ぎきれないイランのドローン攻撃──イラン製…
  • 6
    第6回大会を終えて曲がり角に来たWBC
  • 7
    【衛星画像】イラン情勢緊迫、米強襲揚陸艦「トリポ…
  • 8
    ズボンを穿き忘れてる！ 米セレブ、下を穿かず「目の…
  • 9
    韓国製ミサイル天弓-II、イラン戦争で96%迎撃の衝撃 …
  • 10
    住宅建設予定地に眠っていた「大量の埋蔵金」...現在…
  • 1
    温暖化で増えた？　サンマやサケ減少の裏で激増する「安価で栄養価の高い魚」の正体
  • 2
    ロシア政府、痛恨のミス...プーチンの「健康不安説」を裏付けるような動画を公式に投稿してしまう
  • 3
    メーガン妃、娘リリベット王女との新ショット公開...撮影はパパ
  • 4
    「ノーと言えるスペイン」の背景に国防意識...次期ス…
  • 5
    見事なカンフーを見せた中国ヒト型ロボットのからく…
  • 6
    アルコールは血糖値を下げる...「脳と血管を守る」医…
  • 7
    数時間以内に死に至ることも...若者の間で集団感染が…
  • 8
    ｢ヘル・コリア｣から日本へ7万人 ── 大企業の高給より…
  • 9
    「日本より、自分の国（フランス）を心配すれば？」…
  • 10
    キャサリン皇太子妃、ナイジェリア大統領夫妻出迎え…
トランプ2.0記事まとめ
Real
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中