最新記事

中国

中国AI「お喋りロボット」の反乱――ネットユーザーが勝つのか?

2017年8月7日(月)08時56分
遠藤誉(東京福祉大学国際交流センター長)

AIは、どのようにして「ユーザーの心の声」を「学習」したのか?

折しも、中国政府は「第一代人工知能発展計画の通知」を公布したばかりだ。習近平政権になってから、李克強国務院総理を中心に「インターネット+」計画を実施して、その一環として人工知能発展計画を実施し始め、今年7月8日に「国発201735号」として当該通知を発布した。

したがって、「お喋りロボット」は、この政府方針に沿ってインターネットの双方向性を高めるためのものだった。

最初は、そのはずだったのである。

だから、一定程度の「政府による指導」を受けてきているはずで、さらにネット空間では、少しでも反政府・反共産党的発言は全て削除されるので、AIはネットユーザーから「学習」する隙間はないはずなのである。

それでもお喋りロボットが「ユーザーの心の声」を学習してしまったのは、なぜなのだろうか?

この一連のニュースに接したとき、筆者が最初に疑問に思ったのは、そのことだった。

拙著『ネット大国中国  言論をめぐる攻防』(岩波新書、2011年)でも詳細にネットユーザーの挑戦と政府当局との「もぐら叩きのような攻防」を考察したが、2011年は胡錦濤政権時代で、それでもまだ習近平政権時代よりは、ネット規制は緩かった。

小冰が試験的に中国のネット空間に登場したのは2014年5月30日なので、すでに習近平による激しい言論弾圧が始まっている。だからもし洗脳せずにネット空間に放ったとしても、反政府的言論はすべて削除されるはずだから、反党・反政府的言論を学習する機会がないはずなのである。論理的に行けば、そういうことになる。

そこで、中国政府の対策と現実との間のギャップがどれくらいあるのかを、中国に戻っている昔の教え子たちに聞いてみた。すると概ね以下のような回答が戻ってきた。

●中国政府はたしかに少しでも反政府的言動があると、たちまち削除するツールを持っているが、かといって、全能ではない。

●このAIは中国最大のチャットソフトに公開されており、同時に7億近いネットユーザーとチャットしていることになるから、実際はそこまで多くなかったとしても、その会話の中から特定の情報を取り除くのは難しいのではないだろうか。

●特に自主学習をするAI内部のロジックやデータベースは、いわゆるブラックボックスみたいなものなので、制作者ですら全てを把握するのは不可能。

●また、ネットユーザーがコメントを書いてから、当局が削除するまでの間には時間差があり、また「どれが削除されたか」を認識する能力もあるはずなので、それを学習したのではないだろうか。

ニュース速報

ワールド

米当局、横浜港クルーズ船乗客の入国を14日間制限

ワールド

米政府、中国国営メディア5社に新規則 大使館と同じ

ワールド

カナダ、20日にもクルーズ船から自国民退避へ=外相

ビジネス

政府月例経済報告、景気「回復」判断維持へ=関係筋

MAGAZINE

特集:上級国民論

2020-2・25号(2/18発売)

特権階級が不当に罪を逃れている── 日本を席巻する疑念と怒りの正体

人気ランキング

  • 1

    日本の「新型肺炎」感染拡大を懸念する韓国がまだ「強硬手段」に訴えない理由

  • 2

    米共和党上院議員が中国を嘘つきと非難

  • 3

    今日も市場で生きてるコウモリ販売するインドネシア 新型コロナ感染ゼロの理由とは

  • 4

    殺害した女性の「脳みそどんぶり」を食べた男を逮捕

  • 5

    新型コロナウイルス、人口2.6億のインドネシアで感染…

  • 6

    ヒヒにさらわれ子どもにされた子ライオンの悲劇

  • 7

    新型コロナウイルスはコウモリ由来? だとしても、…

  • 8

    夜間に発電できる「反ソーラーパネル」が考案される

  • 9

    感染者2200万人・死者1万人以上 アメリカ、爆発的「イ…

  • 10

    インドネシア、巨大ヘビから妻救出した夫、ブタ丸呑み…

  • 1

    新型コロナウイルスはコウモリ由来? だとしても、悪いのは中国人の「ゲテモノ食い」ではない

  • 2

    今年の春節は史上最悪、でも新型肺炎で「転じて福」となるかもしれない

  • 3

    中国の新型コロナウイルス危機は「チェルノブイリ級」と世界が囁き始めた

  • 4

    マスク姿のアジア人女性がニューヨークで暴行受ける

  • 5

    韓国、キャッシュレス完了した国が進める「コインレ…

  • 6

    殺害した女性の「脳みそどんぶり」を食べた男を逮捕

  • 7

    「10歳の娘が裸でも同じベッドで寝る彼氏」これって…

  • 8

    新型コロナウイルス、人口2.6億のインドネシアで感染…

  • 9

    インドネシア、巨大ヘビから妻救出した夫、ブタ丸呑み…

  • 10

    「歯肉から毛が生えた」という女性の症例が世界で初…

  • 1

    ゴーン逃亡のレバノンが無政府状態に、銀行も襲撃される

  • 2

    「歯肉から毛が生えた」という女性の症例が世界で初めて報告される

  • 3

    一党支配揺るがすか? 「武漢市長の会見」に中国庶民の怒り沸騰

  • 4

    ヒヒにさらわれ子どもにされた子ライオンの悲劇

  • 5

    マスク姿のアジア人女性がニューヨークで暴行受ける

  • 6

    新型コロナウイルスはコウモリ由来? だとしても、…

  • 7

    韓国で強まる、日本の放射能汚染への懸念

  • 8

    「武漢はこの世の終末」 チャーター機乗れなかった米…

  • 9

    BTSと共演した韓国人気子役がYouTubeで炎上 虐待さ…

  • 10

    「拷問死したアメリカ人学生」がはばむ文在寅の五輪…

PICTURE POWER

レンズがとらえた地球のひと・すがた・みらい

英会話特集 グローバル人材を目指す Newsweek 日本版を読みながらグローバルトレンドを学ぶ
日本再発見 シーズン2
CCCメディアハウス求人情報
定期購読
期間限定、アップルNewsstandで30日間の無料トライアル実施中!
メールマガジン登録
CHALLENGING INNOVATOR
売り切れのないDigital版はこちら

MOOK

ニューズウィーク日本版別冊

絶賛発売中!

STORIES ARCHIVE

  • 2020年2月
  • 2020年1月
  • 2019年12月
  • 2019年11月
  • 2019年10月
  • 2019年9月