コラム

人工知能の反逆より人間のほうがよほど怖い。一番怖いのは頭でっかちのエリート

2016年08月16日(火)13時48分
人工知能の反逆より人間のほうがよほど怖い。一番怖いのは頭でっかちのエリート

denisgo-iStock.

<人工知能がいずれ人間に牙をむくかもしれないことより心配なのは、目的達成のためには手段を選ばない人間に人工知能を悪用されることだ。理詰めの思考を人工知能に譲り、もっと善悪の判断に敏感になれば、人間は崇高に進化できるかもしれない>

 人工知能(AI)や、それを搭載したロボットが進化し続ければ、いずれ自我を持ち、自分たちを守るため人間に牙をむくようになるのではないか。こうしたAI反逆説って特に米国で盛んで、AIが旬な話題になってきたことで、米国のニュースメディアやブログなどで、こうした議論を頻繁に見かけるようになってきた。

 僕はこれまでに日米のトップレベルのAI研究者を20人以上取材してきたが、結論から言うと、ほぼ全員がAI反逆説を頭から否定していた。

 でも研究者って僕のように評論家のような無責任でテキトーなことは言わない。なのでほとんどの研究者は「今はAIの研究がようやく前に動き出したばかりの段階。こんな初期段階でAIが反逆するようになるかどうかなんて、とても予測できない」というような表現だった。

【参考記事】AIが招く雇用崩壊にはこう対処すべき。井上智洋著「人工知能と経済の未来」【書評】
【参考記事】AI時代到来「それでも仕事はなくならない」...んなわけねーだろ

 僕は研究者じゃないんで、もっと踏み込んだ表現を使わせてもらうけど、AIの反逆説とかいうSFチックな議論て不毛だと思う。その理由は2つ。

 1つは、人間の脳ってまだまだ分からないことだらけ。分からないことだらけだから、「心」「意識」「自我」なんて概念を、脳科学的に定義することもできない。定義できないものをコンピューターで実装するなんてことは、もっとできない。

 人間は末梢神経系を含む全身に「自我」があるという考え方もあるし、「腸」こそが「脳」をコントロールしているという説もある。人間は大脳新皮質の思考脳で判断するのではなく、大脳基底核で直感的に判断するという主張もある。「心」なんて錯覚で、体が勝手に反応したことを自分の意思で動かしたと勘違いしているだけ、という話もある。

【参考記事】人工知能、「予測」を制する者が世界を制す
【参考記事】「スーパー人工知能」の出現に備えよ-オックスフォード大学ボストロム教授

 AIが発達すれば思考脳に関してはAIのほうが人間より優秀になるだろうから、人間を人間たらしめるのは「心」「意識」「自我」ということになると思う。なので、これからこうした領域の研究が進むのだろうけど、果たして全容を解明できるようになるのだろうか。「宇宙」と「人間」って、突き詰めれば突き詰めるほど宗教的な話になる。それほど奥が深い領域なので、21世紀や22世紀くらいで解明できるレベルの話ではない、というのが僕の考えだ。

人間による悪用が先

「いやいや心なんて解明できなくても、自分を守るようにAIをプログラムすればいいだけ。そうすれば、結果的に人間に牙をむく可能性がある」という主張もある。でもそれならそのプログラムに「ただし人間を守ること」という但し書きのようなコードを書き込めばいいだけだと思う。

 この議論が不毛だと思う2つ目の理由は、AIが自我を持つようになるほど発達する前に、悪い人間がAIを悪用する可能性があるから。そっちのほうがより現実的で、すぐにでも起こりうる脅威だと思う。

プロフィール

湯川鶴章

AI新聞編集長。米カリフォルニア州立大学サンフランシスコ校経済学部卒業。サンフランシスコの地元紙記者を経て、時事通信社米国法人に入社。シリコンバレーの黎明期から米国のハイテク産業を中心に取材を続ける。通算20年間の米国生活を終え2000年5月に帰国。時事通信編集委員を経て2010年独立。2017年12月から現職。主な著書に『人工知能、ロボット、人の心。』(2015年)、『次世代マーケティングプラットフォーム』(2007年)、『ネットは新聞を殺すのか』(2003年)などがある。

ニュース速報

ワールド

EXCLUSIVE-中国アリババ傘下のアント、上海

ワールド

韓国サムスン電子の李健煕会長が死去、最大財閥で存在

ワールド

アントの上場、過去最大規模になる見込み=ジャック・

ワールド

アジアのコロナ感染者が1000万人突破、インドで感

MAGAZINE

特集:日本人が知らないワクチン戦争

2020-10・27号(10/20発売)

全世界が先を争う新型コロナのワクチン確保 ── その最前線と日本の開発が遅れた本当の理由

人気ランキング

  • 1

    世界が騒いだ中国・三峡ダムが「決壊し得ない」理由

  • 2

    決壊のほかにある、中国・三峡ダムの知られざる危険性

  • 3

    中国・青島市で冷凍食品から新型コロナウイルスが検出された

  • 4

    中国はトランプ再選を願っている

  • 5

    金正恩「女子大生クラブ」メンバー50人が強制労働送…

  • 6

    オーストラリアで太陽光発電し、シンガポールに送電…

  • 7

    イタリア政府、ファーウェイと国内通信企業との5G…

  • 8

    対中デフォルト危機のアフリカ諸国は中国の属国にな…

  • 9

    中国政府のウイグル人弾圧をめぐって、国連で再び各…

  • 10

    全米で大統領選控え記録的な銃購入ラッシュ 初心者…

  • 1

    スリランカが日本支援のライトレール計画を中止したのは......

  • 2

    世界が騒いだ中国・三峡ダムが「決壊し得ない」理由

  • 3

    中国のネットから消された「千人計画」と日本学術会議研究者たち

  • 4

    決壊のほかにある、中国・三峡ダムの知られざる危険性

  • 5

    中国・青島市で冷凍食品から新型コロナウイルスが検…

  • 6

    インドネシア大統領ジョコ、米国の哨戒機給油要請を…

  • 7

    トランプ「土壇場の大逆転」2度目は空振り? 前回と…

  • 8

    菅首相、訪問先のインドネシアで500億円の円借款供与…

  • 9

    グアムを「州に格上げ」して中国に対抗せよ

  • 10

    新型コロナ、スウェーデンは高齢者を犠牲にしたのか

  • 1

    スリランカが日本支援のライトレール計画を中止したのは......

  • 2

    韓国ネット民、旭日旗めぐりなぜかフィリピンと対立し大炎上に

  • 3

    日本学術会議は最後に大きな仕事をした

  • 4

    金正恩「女子大生クラブ」主要メンバー6人を公開処刑

  • 5

    世界が騒いだ中国・三峡ダムが「決壊し得ない」理由

  • 6

    習近平、中国海兵隊に号令「戦争に備えよ」

  • 7

    その数333基、世界一のダム輸出国・中国の「無責任」

  • 8

    注意喚起、 猛毒を持つふさふさの毛虫が米バージニア…

  • 9

    中国のネットから消された「千人計画」と日本学術会…

  • 10

    中国軍の侵攻で台湾軍は崩壊する──見せ掛けの強硬姿…

PICTURE POWER

レンズがとらえた地球のひと・すがた・みらい

英会話特集 グローバル人材を目指す Newsweek 日本版を読みながらグローバルトレンドを学ぶ
日本再発見 シーズン2
CCCメディアハウス求人情報
定期購読
期間限定、アップルNewsstandで30日間の無料トライアル実施中!
Wonderful Story
メールマガジン登録
CHALLENGING INNOVATOR
売り切れのないDigital版はこちら
World Voice

MOOK

ニューズウィーク日本版別冊

絶賛発売中!