コラム

湯川鶴章 湯川鶴章のテクノロジーフィクション

人工知能の反逆より人間のほうがよほど怖い。一番怖いのは頭でっかちのエリート

2016年08月16日（火）13時48分

denisgo-iStock.

＜人工知能がいずれ人間に牙をむくかもしれないことより心配なのは、目的達成のためには手段を選ばない人間に人工知能を悪用されることだ。理詰めの思考を人工知能に譲り、もっと善悪の判断に敏感になれば、人間は崇高に進化できるかもしれない＞

　人工知能（AI）や、それを搭載したロボットが進化し続ければ、いずれ自我を持ち、自分たちを守るため人間に牙をむくようになるのではないか。こうしたAI反逆説って特に米国で盛んで、AIが旬な話題になってきたことで、米国のニュースメディアやブログなどで、こうした議論を頻繁に見かけるようになってきた。

　僕はこれまでに日米のトップレベルのAI研究者を20人以上取材してきたが、結論から言うと、ほぼ全員がAI反逆説を頭から否定していた。

　でも研究者って僕のように評論家のような無責任でテキトーなことは言わない。なのでほとんどの研究者は「今はAIの研究がようやく前に動き出したばかりの段階。こんな初期段階でAIが反逆するようになるかどうかなんて、とても予測できない」というような表現だった。

【参考記事】AIが招く雇用崩壊にはこう対処すべき。井上智洋著「人工知能と経済の未来」【書評】
【参考記事】AI時代到来「それでも仕事はなくならない」...んなわけねーだろ

　僕は研究者じゃないんで、もっと踏み込んだ表現を使わせてもらうけど、AIの反逆説とかいうSFチックな議論て不毛だと思う。その理由は２つ。

　１つは、人間の脳ってまだまだ分からないことだらけ。分からないことだらけだから、「心」「意識」「自我」なんて概念を、脳科学的に定義することもできない。定義できないものをコンピューターで実装するなんてことは、もっとできない。

　人間は末梢神経系を含む全身に「自我」があるという考え方もあるし、「腸」こそが「脳」をコントロールしているという説もある。人間は大脳新皮質の思考脳で判断するのではなく、大脳基底核で直感的に判断するという主張もある。「心」なんて錯覚で、体が勝手に反応したことを自分の意思で動かしたと勘違いしているだけ、という話もある。

【参考記事】人工知能、「予測」を制する者が世界を制す
【参考記事】「スーパー人工知能」の出現に備えよ－オックスフォード大学ボストロム教授

　AIが発達すれば思考脳に関してはAIのほうが人間より優秀になるだろうから、人間を人間たらしめるのは「心」「意識」「自我」ということになると思う。なので、これからこうした領域の研究が進むのだろうけど、果たして全容を解明できるようになるのだろうか。「宇宙」と「人間」って、突き詰めれば突き詰めるほど宗教的な話になる。それほど奥が深い領域なので、21世紀や22世紀くらいで解明できるレベルの話ではない、というのが僕の考えだ。

人間による悪用が先

「いやいや心なんて解明できなくても、自分を守るようにAIをプログラムすればいいだけ。そうすれば、結果的に人間に牙をむく可能性がある」という主張もある。でもそれならそのプログラムに「ただし人間を守ること」という但し書きのようなコードを書き込めばいいだけだと思う。

　この議論が不毛だと思う２つ目の理由は、AIが自我を持つようになるほど発達する前に、悪い人間がAIを悪用する可能性があるから。そっちのほうがより現実的で、すぐにでも起こりうる脅威だと思う。

次のページ人間の進化のきっかけに
プロフィール

湯川鶴章

AI新聞編集長。米カリフォルニア州立大学サンフランシスコ校経済学部卒業。サンフランシスコの地元紙記者を経て、時事通信社米国法人に入社。シリコンバレーの黎明期から米国のハイテク産業を中心に取材を続ける。通算２０年間の米国生活を終え２０００年５月に帰国。時事通信編集委員を経て２０１０年独立。2017年12月から現職。主な著書に『人工知能、ロボット、人の心。』（2015年）、『次世代マーケティングプラットフォーム』（2007年）、『ネットは新聞を殺すのか』（2003年）などがある。趣味はヨガと瞑想。妻が美人なのが自慢。

あわせて読みたい
ニュース速報

ワールド

焦点：困窮するキューバ、経済支援で中国がロシアに代
2025.07.03

ビジネス

スターボード、トリップアドバイザー株9％超保有　株
2025.07.03

ワールド

相次ぐ熱波で欧州成長率0.5％減の恐れ、全世界も0
2025.07.03

ビジネス

米衣料品ランズエンド買収に2社入札、オーセンティッ
2025.07.03
ニュース速報一覧
あわせて読みたい
MAGAZINE
特集：トランプvsイラン
特集：トランプvsイラン
2025年7月 8日号（7/ 1発売）

「平和主義者」のはずの大統領がなぜ？　核施設への電撃攻撃で中東と世界はこう変わる

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    ディズニー・クルーズラインで「子供が海に転落」...父親も飛び込み大惨事に、一体何が起きたのか？
  • 2
    ワニに襲われた直後の「現場映像」に緊張走る...捜索隊が発見した「衝撃の痕跡」
  • 3
    ワニに襲われた男性の「最期の姿」...捜索隊が捉えた発見の瞬間とは
  • 4
    「やらかした顔」がすべてを物語る...反省中のワンコ…
  • 5
    米軍が「米本土への前例なき脅威」と呼ぶ中国「ロケ…
  • 6
    熱中症対策の決定打が、どうして日本では普及しない…
  • 7
    仕事ができる人の話の聞き方。3位は「メモをとる」。…
  • 8
    吉野家がぶちあげた「ラーメンで世界一」は茨の道だ…
  • 9
    燃え盛るロシアの「黒海艦隊」...ウクライナの攻撃で…
  • 10
    「22歳のド素人」がテロ対策トップに...アメリカが「…
  • 1
    燃え盛るロシアの「黒海艦隊」...ウクライナの攻撃で大爆発「沈みゆく姿」を捉えた映像が話題に
  • 2
    ワニに襲われた男性の「最期の姿」...捜索隊が捉えた発見の瞬間とは
  • 3
    イランを奇襲した米B2ステルス機の謎...搭乗した専門家が語る戦略爆撃機の「内側」と「実力」
  • 4
    突然ワニに襲われ、水中へ...男性が突いた「ワニの急…
  • 5
    夜道を「ニワトリが歩いている？」近付いて撮影して…
  • 6
    仕事ができる人の話の聞き方。3位は「メモをとる」。…
  • 7
    ディズニー・クルーズラインで「子供が海に転落」...…
  • 8
    サブリナ・カーペンター、扇情的な衣装で「男性に奉…
  • 9
    定年後に「やらなくていいこと」5選──お金・人間関係…
  • 10
    韓国が「養子輸出大国だった」という不都合すぎる事…
  • 1
    日本の「プラごみ」で揚げる豆腐が、重大な健康被害と環境汚染を引き起こしている
  • 2
    「コーヒーを吹き出すかと...」ディズニーランドの朝食が「高額すぎる」とSNSで大炎上、その「衝撃の値段」とは？
  • 3
    「あまりに愚か...」国立公園で注意を無視して「予測不能な大型動物」に近づく幼児連れ　「ショッキング」と映像が話題に
  • 4
    一瞬にして村全体が消えた...スイスのビルヒ氷河崩壊…
  • 5
    妊娠8カ月の女性を襲ったワニ...妊婦が消えた川辺の…
  • 6
    庭にクマ出没、固唾を呑んで見守る家主、そして次の…
  • 7
    10歳少女がサメに襲われ、手をほぼ食いちぎられる事…
  • 8
    JA・卸売業者が黒幕説は「完全な誤解」...進次郎の「…
  • 9
    「ママ...！」2カ月ぶりの再会に駆け寄る13歳ラブラ…
  • 10
    気温40℃、空港の「暑さ」も原因に？...元パイロット…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story