コラム

人工知能の反逆より人間のほうがよほど怖い。一番怖いのは頭でっかちのエリート

2016年08月16日(火)13時48分

denisgo-iStock.

<人工知能がいずれ人間に牙をむくかもしれないことより心配なのは、目的達成のためには手段を選ばない人間に人工知能を悪用されることだ。理詰めの思考を人工知能に譲り、もっと善悪の判断に敏感になれば、人間は崇高に進化できるかもしれない>

 人工知能(AI)や、それを搭載したロボットが進化し続ければ、いずれ自我を持ち、自分たちを守るため人間に牙をむくようになるのではないか。こうしたAI反逆説って特に米国で盛んで、AIが旬な話題になってきたことで、米国のニュースメディアやブログなどで、こうした議論を頻繁に見かけるようになってきた。

 僕はこれまでに日米のトップレベルのAI研究者を20人以上取材してきたが、結論から言うと、ほぼ全員がAI反逆説を頭から否定していた。

 でも研究者って僕のように評論家のような無責任でテキトーなことは言わない。なのでほとんどの研究者は「今はAIの研究がようやく前に動き出したばかりの段階。こんな初期段階でAIが反逆するようになるかどうかなんて、とても予測できない」というような表現だった。

【参考記事】AIが招く雇用崩壊にはこう対処すべき。井上智洋著「人工知能と経済の未来」【書評】
【参考記事】AI時代到来「それでも仕事はなくならない」...んなわけねーだろ

 僕は研究者じゃないんで、もっと踏み込んだ表現を使わせてもらうけど、AIの反逆説とかいうSFチックな議論て不毛だと思う。その理由は2つ。

 1つは、人間の脳ってまだまだ分からないことだらけ。分からないことだらけだから、「心」「意識」「自我」なんて概念を、脳科学的に定義することもできない。定義できないものをコンピューターで実装するなんてことは、もっとできない。

 人間は末梢神経系を含む全身に「自我」があるという考え方もあるし、「腸」こそが「脳」をコントロールしているという説もある。人間は大脳新皮質の思考脳で判断するのではなく、大脳基底核で直感的に判断するという主張もある。「心」なんて錯覚で、体が勝手に反応したことを自分の意思で動かしたと勘違いしているだけ、という話もある。

【参考記事】人工知能、「予測」を制する者が世界を制す
【参考記事】「スーパー人工知能」の出現に備えよ-オックスフォード大学ボストロム教授

 AIが発達すれば思考脳に関してはAIのほうが人間より優秀になるだろうから、人間を人間たらしめるのは「心」「意識」「自我」ということになると思う。なので、これからこうした領域の研究が進むのだろうけど、果たして全容を解明できるようになるのだろうか。「宇宙」と「人間」って、突き詰めれば突き詰めるほど宗教的な話になる。それほど奥が深い領域なので、21世紀や22世紀くらいで解明できるレベルの話ではない、というのが僕の考えだ。

人間による悪用が先

「いやいや心なんて解明できなくても、自分を守るようにAIをプログラムすればいいだけ。そうすれば、結果的に人間に牙をむく可能性がある」という主張もある。でもそれならそのプログラムに「ただし人間を守ること」という但し書きのようなコードを書き込めばいいだけだと思う。

 この議論が不毛だと思う2つ目の理由は、AIが自我を持つようになるほど発達する前に、悪い人間がAIを悪用する可能性があるから。そっちのほうがより現実的で、すぐにでも起こりうる脅威だと思う。

プロフィール

湯川鶴章

AI新聞編集長。米カリフォルニア州立大学サンフランシスコ校経済学部卒業。サンフランシスコの地元紙記者を経て、時事通信社米国法人に入社。シリコンバレーの黎明期から米国のハイテク産業を中心に取材を続ける。通算20年間の米国生活を終え2000年5月に帰国。時事通信編集委員を経て2010年独立。2017年12月から現職。主な著書に『人工知能、ロボット、人の心。』(2015年)、『次世代マーケティングプラットフォーム』(2007年)、『ネットは新聞を殺すのか』(2003年)などがある。趣味はヨガと瞑想。妻が美人なのが自慢。

あわせて読みたい
ニュース速報

ワールド

ウクライナ安全保証、26カ国が部隊派遣確約 米国の

ビジネス

米ISM非製造業指数、8月は52.0に上昇 雇用は

ビジネス

米新規失業保険申請、予想以上に増加 労働市場の軟化

ワールド

ガザ市で退去命令に応じない住民が孤立 イスラエル軍
あわせて読みたい
MAGAZINE
特集:豪ワーホリ残酷物語
特集:豪ワーホリ残酷物語
2025年9月 9日号(9/ 2発売)

円安の日本から「出稼ぎ」に行く時代──オーストラリアで搾取される若者たちの実態は

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    【動画あり】9月初旬に複数の小惑星が地球に接近...地球への衝突確率は? 監視と対策は十分か?
  • 2
    「よく眠る人が長生き」は本当なのか?...「睡眠障害」でも健康長寿な「100歳超えの人々」の秘密
  • 3
    「怖すぎる」「速く走って!」夜中に一人ランニングをする女性、異変を感じ、背後に「見えたモノ」にSNS震撼
  • 4
    50歳を過ぎても運動を続けるためには?...「動ける体…
  • 5
    【クイズ】世界で2番目に「農産物の輸出額」が多い「…
  • 6
    「生きられない」と生後数日で手放された2本脚のダ…
  • 7
    世論が望まぬ「石破おろし」で盛り上がる自民党...次…
  • 8
    SNSで拡散されたトランプ死亡説、本人は完全否定する…
  • 9
    信じられない...「洗濯物を干しておいて」夫に頼んだ…
  • 10
    「あのホラー映画が現実に...」カヤック中の男性に接…
  • 1
    東北で大腸がんが多いのはなぜか――秋田県で死亡率が下がった「意外な理由」
  • 2
    1日「5分」の習慣が「10年」先のあなたを守る――「動ける体」をつくる、エキセントリック運動【note限定公開記事】
  • 3
    50歳を過ぎても運動を続けるためには?...「動ける体」をつくる4つの食事ポイント
  • 4
    「怖すぎる」「速く走って!」夜中に一人ランニング…
  • 5
    豊かさに溺れ、非生産的で野心のない国へ...「世界が…
  • 6
    25年以内に「がん」を上回る死因に...「スーパーバグ…
  • 7
    信じられない...「洗濯物を干しておいて」夫に頼んだ…
  • 8
    日本の「プラごみ」で揚げる豆腐が、重大な健康被害…
  • 9
    【動画あり】9月初旬に複数の小惑星が地球に接近...…
  • 10
    首を制する者が、筋トレを制す...見た目もパフォーマ…
  • 1
    「自律神経を強化し、脂肪燃焼を促進する」子供も大人も大好きな5つの食べ物
  • 2
    デンマークの動物園、飼えなくなったペットの寄付を呼びかけ ライオンのエサに
  • 3
    「まさかの真犯人」にネット爆笑...大家から再三「果物泥棒」と疑われた女性が無実を証明した「証拠映像」が話題に
  • 4
    信じられない...「洗濯物を干しておいて」夫に頼んだ…
  • 5
    山道で鉢合わせ、超至近距離に3頭...ハイイログマの…
  • 6
    「レプトスピラ症」が大規模流行中...ヒトやペットに…
  • 7
    「あなた誰?」保育園から帰ってきた3歳の娘が「別人…
  • 8
    将来ADHDを発症する「幼少期の兆候」が明らかに?...…
  • 9
    デカすぎ...母親の骨盤を砕いて生まれてきた「超巨大…
  • 10
    イラン人は原爆資料館で大泣きする...日本人が忘れた…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story