最新記事

中国

中国AI「お喋りロボット」の反乱――ネットユーザーが勝つのか?

2017年8月7日(月)08時56分
遠藤誉(東京福祉大学国際交流センター長)

AIは、どのようにして「ユーザーの心の声」を「学習」したのか?

折しも、中国政府は「第一代人工知能発展計画の通知」を公布したばかりだ。習近平政権になってから、李克強国務院総理を中心に「インターネット+」計画を実施して、その一環として人工知能発展計画を実施し始め、今年7月8日に「国発201735号」として当該通知を発布した。

したがって、「お喋りロボット」は、この政府方針に沿ってインターネットの双方向性を高めるためのものだった。

最初は、そのはずだったのである。

だから、一定程度の「政府による指導」を受けてきているはずで、さらにネット空間では、少しでも反政府・反共産党的発言は全て削除されるので、AIはネットユーザーから「学習」する隙間はないはずなのである。

それでもお喋りロボットが「ユーザーの心の声」を学習してしまったのは、なぜなのだろうか?

この一連のニュースに接したとき、筆者が最初に疑問に思ったのは、そのことだった。

拙著『ネット大国中国  言論をめぐる攻防』(岩波新書、2011年)でも詳細にネットユーザーの挑戦と政府当局との「もぐら叩きのような攻防」を考察したが、2011年は胡錦濤政権時代で、それでもまだ習近平政権時代よりは、ネット規制は緩かった。

小冰が試験的に中国のネット空間に登場したのは2014年5月30日なので、すでに習近平による激しい言論弾圧が始まっている。だからもし洗脳せずにネット空間に放ったとしても、反政府的言論はすべて削除されるはずだから、反党・反政府的言論を学習する機会がないはずなのである。論理的に行けば、そういうことになる。

そこで、中国政府の対策と現実との間のギャップがどれくらいあるのかを、中国に戻っている昔の教え子たちに聞いてみた。すると概ね以下のような回答が戻ってきた。

●中国政府はたしかに少しでも反政府的言動があると、たちまち削除するツールを持っているが、かといって、全能ではない。

●このAIは中国最大のチャットソフトに公開されており、同時に7億近いネットユーザーとチャットしていることになるから、実際はそこまで多くなかったとしても、その会話の中から特定の情報を取り除くのは難しいのではないだろうか。

●特に自主学習をするAI内部のロジックやデータベースは、いわゆるブラックボックスみたいなものなので、制作者ですら全てを把握するのは不可能。

●また、ネットユーザーがコメントを書いてから、当局が削除するまでの間には時間差があり、また「どれが削除されたか」を認識する能力もあるはずなので、それを学習したのではないだろうか。

ニュース速報

ワールド

豪労働党の上院議員が辞職、中国との関係巡り疑惑浮上

ワールド

トランプ氏のセクハラ疑惑、下院民主党の女性議員が調

ビジネス

正午のドルは113円半ば、米補選控え手控えムード

ビジネス

ECB、不正会計疑惑浮上後もシュタインホフ債の保有

MAGAZINE

特集:日本を置き去りにする作らない製造業

2017-12・19号(12/12発売)

ものづくり神話の崩壊にうろたえる日本。新たな形の製造業が広がる世界

グローバル人材を目指す

人気ランキング

  • 1

    推定500歳!地上で最古の脊椎動物はガリレオの時代から生きてきた

  • 2

    EVとAIで人気のテスラ ささやかれる「自動車製造を甘く見た」ツケ

  • 3

    高いIQは心理・生理学的に危険――米研究

  • 4

    国連事務総長「北朝鮮、対話」を──孤立するアメリカ.…

  • 5

    キャノーラ油で認知症が悪化する──米研究

  • 6

    北朝鮮「亡命兵士」の腸が寄生虫だらけになった理由

  • 7

    トランプを追い込む特別検察官の秘策

  • 8

    金正恩を倒すための「斬首部隊」に自爆ドローンを装備

  • 9

    犬が「噛む」のはワケがある 

  • 10

    「ICBM発射映像に炎に包まれる兵士」金正恩が目撃し…

  • 1

    金正恩を倒すための「斬首部隊」に自爆ドローンを装備

  • 2

    「ICBM発射映像に炎に包まれる兵士」金正恩が目撃しながら大喜びか

  • 3

    北朝鮮外務省が声明「戦争勃発は不可避、問題はいつ起きるかだ」

  • 4

    2017年は中流でもビットコインを買える最後の年にな…

  • 5

    推定500歳!地上で最古の脊椎動物はガリレオの時代か…

  • 6

    EVとAIで人気のテスラ ささやかれる「自動車製造を…

  • 7

    「軍事衝突は近い。国防総省は在韓米軍の家族を退避…

  • 8

    キャノーラ油で認知症が悪化する──米研究

  • 9

    中国軍駐留で北朝鮮の非核化を

  • 10

    犬が「噛む」のはワケがある 

  • 1

    北朝鮮「亡命兵士」の腸が寄生虫だらけになった理由

  • 2

    北朝鮮「兵士亡命」が戦争の引き金を引く可能性

  • 3

    北朝鮮「亡命兵士」の命を脅かす寄生虫の恐怖

  • 4

    金正恩を倒すための「斬首部隊」に自爆ドローンを装備

  • 5

    米朝戦争になったら勝つのはどっち?

  • 6

    「ICBM発射映像に炎に包まれる兵士」金正恩が目撃し…

  • 7

    「英王室はそれでも黒人プリンセスを認めない」

  • 8

    北朝鮮外務省が声明「戦争勃発は不可避、問題はいつ…

  • 9

    「セックスしている子もいるけど私はしたくない」 …

  • 10

    「軍事衝突は近い。国防総省は在韓米軍の家族を退避…

PICTURE POWER

レンズがとらえた地球のひと・すがた・みらい

胎内のような、安心感のなかでイマジネーションを膨らませる。
日本再発見 シーズン2
ニューズウィーク日本版デザイナー募集
定期購読
期間限定、アップルNewsstandで30日間の無料トライアル実施中!
メールマガジン登録
売り切れのないDigital版はこちら

MOOK

ニューズウィーク日本版 特別編集

最新版 アルツハイマー入門

絶賛発売中!

STORIES ARCHIVE

  • 2017年12月
  • 2017年11月
  • 2017年10月
  • 2017年9月
  • 2017年8月
  • 2017年7月