最新記事

高森郁哉

グーグル、人工知能の暴走を阻止する「非常ボタン」を開発中

2016年6月10日（金）17時10分
高森郁哉

wikicommons

＜人工知能（AI）が人類の敵になることへの懸念を表明する著名人が増えている。こうした懸念に応え、グーグルは、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表した＞

　数年前から、人工知能（AI）が人類の敵になることへの懸念を表明する著名人が増えている。理論物理学者のスティーブン・ホーキング博士は、自律型兵器を禁止するよう公開書簡で訴えたが、スウェーデンの哲学者ニック・ボストロム氏は著書「Superintelligence」の中で、AIが知性の点で人類を超えるとき、人類は絶滅の脅威にさらされる可能性があると論じた。

【参考記事】「スーパー人工知能」の出現に備えよ－オックスフォード大学ボストロム教授

　電気自動車のテスラ・モーターズやロケット開発のスペースXで知られる起業家イーロン・マスク氏も、ボストロム氏の著書に言及して「AIは核よりも危険になる可能性がある」とツイートした。


　こうした懸念に応え、グーグルのAI部門が今月、AIが人類に反逆しそうな場合に人為的な操作で回避する「非常ボタン」のような仕組みを開発中だと発表。米ニューズウィークなどが報じている。

AIが「人類の敵」になるのを防ぐアルゴリズム

　グーグルから2014年に買収されたディープマインド社が公開したのは、「Safely Interruptible Agents」（安全に中断できるエージェント）と題した論文。この中で同社は、自律学習型のエージェント（AI）が有害な振る舞いをしそうになったとき、人間のオペレーターが「big red button」（非常ボタン）を押すことで、有害な挙動が継続されるのを阻止して、安全な状態に導く仕組みを開発中だと述べている。

　論文はさらに、将来的にAIが非常ボタンを無効化する方法を学習しないよう、手動による中断操作を偽装して、AIが自らの判断で挙動を変更したように「思い込ませる」仕組みについても説明している。

　同チームが定義する「安全な中断」のポリシーに基づき、既存のAIエージェントを調べたところ、「Q-learning」などはすでに安全な中断が可能な状態で、「Sarsa」などは容易にポリシーを追加できることがわかったという。

　AIが人類に反逆する未来は、『2001年宇宙の旅』や『ターミネーター』、最近では『アベンジャーズ　エイジ・オブ・ウルトロン』など多くのSF映画で描かれてきた。こうしたモチーフが繰り返されるのは、科学技術の進歩が文明の発展を担ってきた一方で、ハイテクが雇用を奪い、核兵器などの大量破壊兵器が人類を脅かしている現実の懸念も反映してのことだろう。
　
　それに加え、創造主が創造した「もの」に反逆されるという、ギリシャ神話以来の普遍的なテーマである「父殺し」の変形と考えるなら、SF作品での言及は19世紀初頭のメアリー・シェリーによる小説『フランケンシュタイン』にまでさかのぼることができる。6月11日に日本公開となるSFスリラー映画『エクス・マキナ』にも、そうした要素が洗練された形で継承されている。

【参考記事】アンドロイド美女に深い不安を託して

今、あなたにオススメ
ニュース速報

ワールド

ガザの水道システム崩壊、ユニセフが危機感　銃撃や空
2025.06.20

ビジネス

中国歳入、1─5月は前年比0.3％減　税収・土地売
2025.06.20

ビジネス

英小売売上高、5月は23年以来の大幅減　好調だった
2025.06.20

ワールド

イスラエルが軍事施設数十カ所を攻撃、イランからもミ
2025.06.20
ニュース速報一覧
今、あなたにオススメ
MAGAZINE
特集：コメ高騰の真犯人
特集：コメ高騰の真犯人
2025年6月24日号（6/17発売）

なぜ米価は突然上がり、これからどうなるのか？ コメ高騰の原因と「犯人」を探る

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    「あまりに愚か...」国立公園で注意を無視して「予測不能な大型動物」に近づく幼児連れ　「ショッキング」と映像が話題に
  • 2
    10歳少女がサメに襲われ、手をほぼ食いちぎられる事故...「緊迫の救護シーン」を警官が記録
  • 3
    JA・卸売業者が黒幕説は「完全な誤解」...進次郎の「過剰な20万トン」でコメの値段はこう変わる
  • 4
    「うちの赤ちゃんは一人じゃない」母親がカメラ越し…
  • 5
    「アメリカにディズニー旅行」は夢のまた夢？...ディ…
  • 6
    全ての生物は「光」を放っていることが判明...死ねば…
  • 7
    マスクが「時代遅れ」と呼んだ有人戦闘機F-35は、イ…
  • 8
    下品すぎる...法廷に現れた「胸元に視線集中」の過激…
  • 9
    イタリアにある欧州最大の活火山が10年ぶりの大噴火.…
  • 10
    妊娠8カ月の女性を襲ったワニ...妊婦が消えた川辺の…
  • 1
    気温40℃、空港の「暑さ」も原因に？...元パイロットが指摘する、墜落したインド航空機の問題点
  • 2
    「あまりに愚か...」国立公園で注意を無視して「予測不能な大型動物」に近づく幼児連れ　「ショッキング」と映像が話題に
  • 3
    「うちの赤ちゃんは一人じゃない」母親がカメラ越しに見た「守り神」の正体
  • 4
    10歳少女がサメに襲われ、手をほぼ食いちぎられる事…
  • 5
    JA・卸売業者が黒幕説は「完全な誤解」...進次郎の「…
  • 6
    ブラッド・ピット新髪型を「かわいい」「史上最高に…
  • 7
    「サイドミラー1つ作れない」レアアース危機･第3波で…
  • 8
    「タンパク質」より「食物繊維」がなぜ重要なのか？.…
  • 9
    イタリアにある欧州最大の活火山が10年ぶりの大噴火.…
  • 10
    妊娠8カ月の女性を襲ったワニ...妊婦が消えた川辺の…
  • 1
    日本の「プラごみ」で揚げる豆腐が、重大な健康被害と環境汚染を引き起こしている
  • 2
    一瞬にして村全体が消えた...スイスのビルヒ氷河崩壊の瞬間を捉えた「恐怖の映像」に広がる波紋
  • 3
    庭にクマ出没、固唾を呑んで見守る家主、そして次の瞬間...「信じられない行動」にネット驚愕
  • 4
    大爆発で一瞬にして建物が粉々に...ウクライナ軍「Mi…
  • 5
    「ママ...！」2カ月ぶりの再会に駆け寄る13歳ラブラ…
  • 6
    あなたも当てはまる？ 顔に表れるサイコパス・ナルシ…
  • 7
    ドローン百機を一度に発射できる中国の世界初「ドロ…
  • 8
    気温40℃、空港の「暑さ」も原因に？...元パイロット…
  • 9
    「あまりに愚か...」国立公園で注意を無視して「予測…
  • 10
    【クイズ】EVの電池にも使われる「コバルト」...世界…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story
MOOK
ニューズウィーク日本版別冊
ニューズウィーク日本版別冊

好評発売中