コラム

湯川鶴章 湯川鶴章のテクノロジーフィクション

人工知能の反逆より人間のほうがよほど怖い。一番怖いのは頭でっかちのエリート

2016年08月16日（火）13時48分

denisgo-iStock.

＜人工知能がいずれ人間に牙をむくかもしれないことより心配なのは、目的達成のためには手段を選ばない人間に人工知能を悪用されることだ。理詰めの思考を人工知能に譲り、もっと善悪の判断に敏感になれば、人間は崇高に進化できるかもしれない＞

　人工知能（AI）や、それを搭載したロボットが進化し続ければ、いずれ自我を持ち、自分たちを守るため人間に牙をむくようになるのではないか。こうしたAI反逆説って特に米国で盛んで、AIが旬な話題になってきたことで、米国のニュースメディアやブログなどで、こうした議論を頻繁に見かけるようになってきた。

　僕はこれまでに日米のトップレベルのAI研究者を20人以上取材してきたが、結論から言うと、ほぼ全員がAI反逆説を頭から否定していた。

　でも研究者って僕のように評論家のような無責任でテキトーなことは言わない。なのでほとんどの研究者は「今はAIの研究がようやく前に動き出したばかりの段階。こんな初期段階でAIが反逆するようになるかどうかなんて、とても予測できない」というような表現だった。

【参考記事】AIが招く雇用崩壊にはこう対処すべき。井上智洋著「人工知能と経済の未来」【書評】
【参考記事】AI時代到来「それでも仕事はなくならない」...んなわけねーだろ

　僕は研究者じゃないんで、もっと踏み込んだ表現を使わせてもらうけど、AIの反逆説とかいうSFチックな議論て不毛だと思う。その理由は２つ。

　１つは、人間の脳ってまだまだ分からないことだらけ。分からないことだらけだから、「心」「意識」「自我」なんて概念を、脳科学的に定義することもできない。定義できないものをコンピューターで実装するなんてことは、もっとできない。

　人間は末梢神経系を含む全身に「自我」があるという考え方もあるし、「腸」こそが「脳」をコントロールしているという説もある。人間は大脳新皮質の思考脳で判断するのではなく、大脳基底核で直感的に判断するという主張もある。「心」なんて錯覚で、体が勝手に反応したことを自分の意思で動かしたと勘違いしているだけ、という話もある。

【参考記事】人工知能、「予測」を制する者が世界を制す
【参考記事】「スーパー人工知能」の出現に備えよ－オックスフォード大学ボストロム教授

　AIが発達すれば思考脳に関してはAIのほうが人間より優秀になるだろうから、人間を人間たらしめるのは「心」「意識」「自我」ということになると思う。なので、これからこうした領域の研究が進むのだろうけど、果たして全容を解明できるようになるのだろうか。「宇宙」と「人間」って、突き詰めれば突き詰めるほど宗教的な話になる。それほど奥が深い領域なので、21世紀や22世紀くらいで解明できるレベルの話ではない、というのが僕の考えだ。

人間による悪用が先

「いやいや心なんて解明できなくても、自分を守るようにAIをプログラムすればいいだけ。そうすれば、結果的に人間に牙をむく可能性がある」という主張もある。でもそれならそのプログラムに「ただし人間を守ること」という但し書きのようなコードを書き込めばいいだけだと思う。

　この議論が不毛だと思う２つ目の理由は、AIが自我を持つようになるほど発達する前に、悪い人間がAIを悪用する可能性があるから。そっちのほうがより現実的で、すぐにでも起こりうる脅威だと思う。

次のページ人間の進化のきっかけに
プロフィール

湯川鶴章

AI新聞編集長。米カリフォルニア州立大学サンフランシスコ校経済学部卒業。サンフランシスコの地元紙記者を経て、時事通信社米国法人に入社。シリコンバレーの黎明期から米国のハイテク産業を中心に取材を続ける。通算２０年間の米国生活を終え２０００年５月に帰国。時事通信編集委員を経て２０１０年独立。2017年12月から現職。主な著書に『人工知能、ロボット、人の心。』（2015年）、『次世代マーケティングプラットフォーム』（2007年）、『ネットは新聞を殺すのか』（2003年）などがある。趣味はヨガと瞑想。妻が美人なのが自慢。

あわせて読みたい
ニュース速報

ワールド

韓国・イタリア首脳が会談、ＡＩ・半導体など協力強化
2026.01.19

ワールド

訂正-コロンビアで左翼ゲリラ同士が衝突、27人死亡
2026.01.19

ワールド

グアテマラ刑務所で暴動、刑務官ら一時人質　治安非常
2026.01.19

ビジネス

新発10年債利回り2.24％に上昇、27年ぶり高水
2026.01.19
ニュース速報一覧
あわせて読みたい
MAGAZINE
特集：総力特集 ベネズエラ攻撃
特集：総力特集 ベネズエラ攻撃
2026年1月20日号（1/14発売）

深夜の精密攻撃でマドゥロ大統領拘束に成功したトランプ米大統領の本当の狙いは？

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    【銘柄】「住友金属鉱山」の株価が急上昇...銅の高騰に地政学リスク、その圧倒的な強みとは？
  • 2
    中国のインフラ建設にインドが反発、ヒマラヤ奥地で国境問題が再燃
  • 3
    DNAが「全て」ではなかった...親の「後天的な特徴」も子に受け継がれ、体質や発症リスクに影響　群馬大グループが発表
  • 4
    シャーロット英王女、「カリスマ的な貫禄」を見せつ…
  • 5
    AIがついに人類に「牙をむいた」...中国系組織の「サ…
  • 6
    韓国『日本人無料』の光と影 ── 日韓首脳が｢未来志向…
  • 7
    「リラックス」は体を壊す...ケガを防ぐ「しなやかな…
  • 8
    上野公園「トイレ騒動」に見る、日本のトイレが「世…
  • 9
    中国ネトウヨが「盗賊」と呼んだ大英博物館に感謝し…
  • 10
    【総選挙予測：自民は圧勝せず】立憲・公明連合は投…
  • 1
    【クイズ】韓国を抜いて1位に...世界で最も「出生率が低い」のはどこ？
  • 2
    上野公園「トイレ騒動」に見る、日本のトイレが「世界一危険」な理由
  • 3
    世界初で日本独自、南鳥島沖で始まるレアアース泥試掘の重要性　日本発の希少資源採取技術は他にも
  • 4
    【クイズ】世界で最も「レアアースの埋蔵量」が多い…
  • 5
    正気を失った？──トランプ、エプスタイン疑惑につい…
  • 6
    母親が発見した「指先の謎の痣」が、1歳児の命を救っ…
  • 7
    韓国『日本人無料』の光と影 ── 日韓首脳が｢未来志向…
  • 8
    「高額すぎる...」ポケモンとレゴのコラボ商品に広が…
  • 9
    中国製防空レーダーは米軍のベネズエラ攻撃に屈した─…
  • 10
    世界最大の埋蔵量でも「儲からない」？ 米石油大手が…
  • 1
    【クイズ】世界で最も「レアアースの埋蔵量」が多い国はどこ？【2025年の話題クイズ5選】
  • 2
    90代でも元気な人が「必ず動かしている体の部位」とは何か...血管の名医がたどり着いた長生きの共通点
  • 3
    ウクライナ水中ドローンが、ロシア潜水艦を爆破...「史上初の攻撃成功」の裏に、戦略的な「事前攻撃」
  • 4
    アジアの豊かな国ランキング、日本は6位──IMF予測
  • 5
    中国製防空レーダーは米軍のベネズエラ攻撃に屈した─…
  • 6
    【クイズ】世界で唯一「蚊のいない国」はどこ？【202…
  • 7
    「腸が弱ると全身が乱れる」...消化器専門医がすすめ…
  • 8
    『SHOGUN 将軍』の成功は嬉しいが...岡田准一が目指…
  • 9
    【クイズ】本州で唯一「クマが生息していない県」は…
  • 10
    前進するロシア、忍び寄る限界...勝者に見えるプーチ…
トランプ2.0記事まとめ
Real
CHALLENGING INNOVATOR
Wonderful Story