最新記事

中国

中国AI「お喋りロボット」の反乱――ネットユーザーが勝つのか?

2017年8月7日(月)08時56分
遠藤誉(東京福祉大学国際交流センター長)

AIは、どのようにして「ユーザーの心の声」を「学習」したのか?

折しも、中国政府は「第一代人工知能発展計画の通知」を公布したばかりだ。習近平政権になってから、李克強国務院総理を中心に「インターネット+」計画を実施して、その一環として人工知能発展計画を実施し始め、今年7月8日に「国発201735号」として当該通知を発布した。

したがって、「お喋りロボット」は、この政府方針に沿ってインターネットの双方向性を高めるためのものだった。

最初は、そのはずだったのである。

だから、一定程度の「政府による指導」を受けてきているはずで、さらにネット空間では、少しでも反政府・反共産党的発言は全て削除されるので、AIはネットユーザーから「学習」する隙間はないはずなのである。

それでもお喋りロボットが「ユーザーの心の声」を学習してしまったのは、なぜなのだろうか?

この一連のニュースに接したとき、筆者が最初に疑問に思ったのは、そのことだった。

拙著『ネット大国中国  言論をめぐる攻防』(岩波新書、2011年)でも詳細にネットユーザーの挑戦と政府当局との「もぐら叩きのような攻防」を考察したが、2011年は胡錦濤政権時代で、それでもまだ習近平政権時代よりは、ネット規制は緩かった。

小冰が試験的に中国のネット空間に登場したのは2014年5月30日なので、すでに習近平による激しい言論弾圧が始まっている。だからもし洗脳せずにネット空間に放ったとしても、反政府的言論はすべて削除されるはずだから、反党・反政府的言論を学習する機会がないはずなのである。論理的に行けば、そういうことになる。

そこで、中国政府の対策と現実との間のギャップがどれくらいあるのかを、中国に戻っている昔の教え子たちに聞いてみた。すると概ね以下のような回答が戻ってきた。

●中国政府はたしかに少しでも反政府的言動があると、たちまち削除するツールを持っているが、かといって、全能ではない。

●このAIは中国最大のチャットソフトに公開されており、同時に7億近いネットユーザーとチャットしていることになるから、実際はそこまで多くなかったとしても、その会話の中から特定の情報を取り除くのは難しいのではないだろうか。

●特に自主学習をするAI内部のロジックやデータベースは、いわゆるブラックボックスみたいなものなので、制作者ですら全てを把握するのは不可能。

●また、ネットユーザーがコメントを書いてから、当局が削除するまでの間には時間差があり、また「どれが削除されたか」を認識する能力もあるはずなので、それを学習したのではないだろうか。

MAGAZINE

特集:5Gの世界

2019-3・26号(3/19発売)

超高速大容量の通信でネット利用が快適に...... どころで済まない5Gの潜在力と激変する未来の姿

人気ランキング

  • 1

    モデルの乳がんを、レンブラントは意図せず描いた【名画の謎を解く】

  • 2

    いじめで「死ななかった子」と親を取材して分かったこと

  • 3

    完璧としか言いようがない、イチロー選手の引退劇

  • 4

    アフリカの違法エナジードリンク、「6時間たちっぱ…

  • 5

    「虐待が脳を変えてしまう」脳科学者からの目を背け…

  • 6

    500年間誰も気づかなかったダビデ像の「目の秘密」【…

  • 7

    すべてのパソコンをタブレットに変えたら、どれぐら…

  • 8

    JKビジネスを天国と呼ぶ「売春」女子高生たちの生の声

  • 9

    ポモドーロ・テクニック:世界が実践する時間管理術…

  • 10

    巨額負債から回復するも高くついたゴーン流経営 日…

  • 1

    日本の重要性を見失った韓国

  • 2

    モデルの乳がんを、レンブラントは意図せず描いた【名画の謎を解く】

  • 3

    500年間誰も気づかなかったダビデ像の「目の秘密」【名画の謎を解く】

  • 4

    韓国のPM2.5が危機的状況で、比較的空気の綺麗な日本…

  • 5

    「深圳すごい、日本負けた」の嘘──中国の日本人経営…

  • 6

    北斎は幽霊っぽさを出すために子供の頭蓋骨を使った…

  • 7

    地下5キロメートルで「巨大な生物圏」が発見される

  • 8

    日本よ!「反韓・嫌韓」は時間の無駄だ

  • 9

    金正男暗殺実行犯の女性被告1人を釈放・帰国 マレー…

  • 10

    「韓国にまともな民主主義はない」アメリカも抱く誤…

  • 1

    日本の重要性を見失った韓国

  • 2

    家畜のブタが人食いブタに豹変──ロシア

  • 3

    フィンランドで隠し撮りされた「怪物」の悲劇

  • 4

    映画『ボヘミアン・ラプソディ』が語らなかったフレ…

  • 5

    自殺者数、米軍兵力、初任給... 韓国のリアルを10の…

  • 6

    【動画】サメを虐待した金持ち息子に軽すぎる刑

  • 7

    地下5キロメートルで「巨大な生物圏」が発見される

  • 8

    モデルの乳がんを、レンブラントは意図せず描いた【…

  • 9

    『ボヘミアン・ラプソディ』を陰で支えた、クイーン…

  • 10

    韓国のPM2.5が危機的状況で、比較的空気の綺麗な日本…

英会話特集 資産運用特集 グローバル人材を目指す Newsweek 日本版を読みながらグローバルトレンドを学ぶ
日本再発見 シーズン2
NWデジタル編集部ほか求人情報
定期購読
期間限定、アップルNewsstandで30日間の無料トライアル実施中!
メールマガジン登録
売り切れのないDigital版はこちら

MOOK

ニューズウィーク日本版別冊

絶賛発売中!

STORIES ARCHIVE

  • 2019年3月
  • 2019年2月
  • 2019年1月
  • 2018年12月
  • 2018年11月
  • 2018年10月