最新記事

中国

中国AI「お喋りロボット」の反乱――ネットユーザーが勝つのか?

2017年8月7日(月)08時56分
遠藤誉(東京福祉大学国際交流センター長)

AIは、どのようにして「ユーザーの心の声」を「学習」したのか?

折しも、中国政府は「第一代人工知能発展計画の通知」を公布したばかりだ。習近平政権になってから、李克強国務院総理を中心に「インターネット+」計画を実施して、その一環として人工知能発展計画を実施し始め、今年7月8日に「国発201735号」として当該通知を発布した。

したがって、「お喋りロボット」は、この政府方針に沿ってインターネットの双方向性を高めるためのものだった。

最初は、そのはずだったのである。

だから、一定程度の「政府による指導」を受けてきているはずで、さらにネット空間では、少しでも反政府・反共産党的発言は全て削除されるので、AIはネットユーザーから「学習」する隙間はないはずなのである。

それでもお喋りロボットが「ユーザーの心の声」を学習してしまったのは、なぜなのだろうか?

この一連のニュースに接したとき、筆者が最初に疑問に思ったのは、そのことだった。

拙著『ネット大国中国  言論をめぐる攻防』(岩波新書、2011年)でも詳細にネットユーザーの挑戦と政府当局との「もぐら叩きのような攻防」を考察したが、2011年は胡錦濤政権時代で、それでもまだ習近平政権時代よりは、ネット規制は緩かった。

小冰が試験的に中国のネット空間に登場したのは2014年5月30日なので、すでに習近平による激しい言論弾圧が始まっている。だからもし洗脳せずにネット空間に放ったとしても、反政府的言論はすべて削除されるはずだから、反党・反政府的言論を学習する機会がないはずなのである。論理的に行けば、そういうことになる。

そこで、中国政府の対策と現実との間のギャップがどれくらいあるのかを、中国に戻っている昔の教え子たちに聞いてみた。すると概ね以下のような回答が戻ってきた。

●中国政府はたしかに少しでも反政府的言動があると、たちまち削除するツールを持っているが、かといって、全能ではない。

●このAIは中国最大のチャットソフトに公開されており、同時に7億近いネットユーザーとチャットしていることになるから、実際はそこまで多くなかったとしても、その会話の中から特定の情報を取り除くのは難しいのではないだろうか。

●特に自主学習をするAI内部のロジックやデータベースは、いわゆるブラックボックスみたいなものなので、制作者ですら全てを把握するのは不可能。

●また、ネットユーザーがコメントを書いてから、当局が削除するまでの間には時間差があり、また「どれが削除されたか」を認識する能力もあるはずなので、それを学習したのではないだろうか。

ニュース速報

ビジネス

トヨタが新型磁石開発、EV普及にらみ高価なネオジム

ビジネス

消費増税・五輪の需要変動対応、民間議員「機動的財政

ビジネス

日本初のG20首脳会議、大阪で開催へ=政府筋

ビジネス

TPPへの米国の復帰、前向きになることは歓迎=梅本

MAGAZINE

特集:韓国人の本音 ピョンチャン五輪と南北融和

2018-2・27号(2/20発売)

平昌五輪での北朝鮮の融和外交が世界を驚かせたが、当の韓国人は南北和解と統一をどう考えている?

グローバル人材を目指す

人気ランキング

  • 1

    北朝鮮「スリーパーセル」論争に隠された虚しい現実

  • 2

    「クラスで一番の美人は金正恩の性奴隷になった」

  • 3

    銃乱射の被害者を訪問したトランプ、ご機嫌で大顰蹙。この男に心はあるのか?

  • 4

    「世界の終わりだ」 KFCのチキンが消えてパニックに…

  • 5

    食べつくされる「自撮りザル」、肉に飢えた地元民の…

  • 6

    50歳以上の「節操のないセックス」でHIV感染が拡大

  • 7

    「ヒュッゲ」ブームの火付け役が日本人に伝えたい幸…

  • 8

    マイナス40度でミニスカ女子大生の脚はこうなった

  • 9

    「愛してると伝えて」米フロリダの銃乱射の教室で何…

  • 10

    欧米でブームの「ヒュッゲ」で日本人も幸せになれる?

  • 1

    「クラスで一番の美人は金正恩の性奴隷になった」

  • 2

    北朝鮮に帰る美女楽団を待ち伏せしていた「二重脱北者」

  • 3

    「愛してると伝えて」米フロリダの銃乱射の教室で何が起こったのか

  • 4

    マイナス40度でミニスカ女子大生の脚はこうなった

  • 5

    50歳以上の「節操のないセックス」でHIV感染が拡大

  • 6

    「死のない肉」クォーンが急成長 人工肉市場がアツい

  • 7

    岐阜県の盗撮疑惑事件で垣間見えた、外国人技能実習…

  • 8

    広がる「工作員妄想」~三浦瑠麗氏発言の背景~

  • 9

    金正恩のお菓子セットが「不味すぎて」発展する北朝…

  • 10

    北朝鮮「スリーパーセル」論争に隠された虚しい現実

  • 1

    265年に1度? 31日夜、「スーパー・ブルー・ブラッドムーン」が空を彩る

  • 2

    マイナス40度でミニスカ女子大生の脚はこうなった

  • 3

    「クラスで一番の美人は金正恩の性奴隷になった」

  • 4

    「売春島」三重県にあった日本最後の「桃源郷」はい…

  • 5

    北朝鮮と戦う米軍兵士は地獄を見る

  • 6

    「逆にいやらしい」忖度しすぎなインドネシアの放送…

  • 7

    ビットコイン暴落でネット上に自殺防止ホットライン

  • 8

    北朝鮮を戦争に駆り立てるトランプに怯え始めたロシア

  • 9

    北朝鮮に帰る美女楽団を待ち伏せしていた「二重脱北…

  • 10

    50歳以上の「節操のないセックス」でHIV感染が拡大

日本再発見 シーズン2
デジタル/プリントメディア広告セールス部員募集
定期購読
期間限定、アップルNewsstandで30日間の無料トライアル実施中!
メールマガジン登録
売り切れのないDigital版はこちら

MOOK

ニューズウィーク日本版 特別編集

丸ごと1冊金正恩

絶賛発売中!

STORIES ARCHIVE

  • 2018年2月
  • 2018年1月
  • 2017年12月
  • 2017年11月
  • 2017年10月
  • 2017年9月