最新記事

中国

中国AI「お喋りロボット」の反乱――ネットユーザーが勝つのか?

2017年8月7日(月)08時56分
遠藤誉(東京福祉大学国際交流センター長)

AIは、どのようにして「ユーザーの心の声」を「学習」したのか?

折しも、中国政府は「第一代人工知能発展計画の通知」を公布したばかりだ。習近平政権になってから、李克強国務院総理を中心に「インターネット+」計画を実施して、その一環として人工知能発展計画を実施し始め、今年7月8日に「国発201735号」として当該通知を発布した。

したがって、「お喋りロボット」は、この政府方針に沿ってインターネットの双方向性を高めるためのものだった。

最初は、そのはずだったのである。

だから、一定程度の「政府による指導」を受けてきているはずで、さらにネット空間では、少しでも反政府・反共産党的発言は全て削除されるので、AIはネットユーザーから「学習」する隙間はないはずなのである。

それでもお喋りロボットが「ユーザーの心の声」を学習してしまったのは、なぜなのだろうか?

この一連のニュースに接したとき、筆者が最初に疑問に思ったのは、そのことだった。

拙著『ネット大国中国  言論をめぐる攻防』(岩波新書、2011年)でも詳細にネットユーザーの挑戦と政府当局との「もぐら叩きのような攻防」を考察したが、2011年は胡錦濤政権時代で、それでもまだ習近平政権時代よりは、ネット規制は緩かった。

小冰が試験的に中国のネット空間に登場したのは2014年5月30日なので、すでに習近平による激しい言論弾圧が始まっている。だからもし洗脳せずにネット空間に放ったとしても、反政府的言論はすべて削除されるはずだから、反党・反政府的言論を学習する機会がないはずなのである。論理的に行けば、そういうことになる。

そこで、中国政府の対策と現実との間のギャップがどれくらいあるのかを、中国に戻っている昔の教え子たちに聞いてみた。すると概ね以下のような回答が戻ってきた。

●中国政府はたしかに少しでも反政府的言動があると、たちまち削除するツールを持っているが、かといって、全能ではない。

●このAIは中国最大のチャットソフトに公開されており、同時に7億近いネットユーザーとチャットしていることになるから、実際はそこまで多くなかったとしても、その会話の中から特定の情報を取り除くのは難しいのではないだろうか。

●特に自主学習をするAI内部のロジックやデータベースは、いわゆるブラックボックスみたいなものなので、制作者ですら全てを把握するのは不可能。

●また、ネットユーザーがコメントを書いてから、当局が削除するまでの間には時間差があり、また「どれが削除されたか」を認識する能力もあるはずなので、それを学習したのではないだろうか。

ニュース速報

ビジネス

トランプ米大統領、FRBの利上げ「喜ばしくない」

ビジネス

ホンダが「クラリティPHEV」日本であす発売、電動

ワールド

中国、為替変動にカウンターシクリカルな措置で対応=

ワールド

米NEC委員長の習氏批判、「衝撃的でっち上げ」=中

MAGAZINE

特集:人生が豊かになるスウェーデン式終活

2018-7・24号(7/18発売)

「自分らしい生き方を最後まで全うしたい」と望む世界の高齢者が注目する北欧式「最後の断捨離」とは

人気ランキング

  • 1

    インドネシア、住民死亡の敵討ちでワニ292匹を虐殺 一番怖いのはヒトだった

  • 2

    全長7mの巨大ヘビが女性を丸のみ インドネシア、被害続発する事情とは

  • 3

    ブラジルの街中でサソリの大繁殖が始まった?昨年死者200人

  • 4

    「何か来るにゃ...」 大阪地震の瞬間の猫動画に海外…

  • 5

    収入が減る一方で家賃は上がる──日本が過去20年で失…

  • 6

    「乱交」で種の境界を乗り越えるサル

  • 7

    「お母さんがねたので死にます」と自殺した子の母と…

  • 8

    美しいビーチに半裸の美女、「中国のハワイ」にまだ…

  • 9

    自殺教唆ゲーム『ブルーホエール』プレイ後、子供2人…

  • 10

    ロシア、兵士や戦車を隠す「透明マント」を開発

  • 1

    金正恩の背後の足場に「死亡事故を予感」させる恐怖写真

  • 2

    「何か来るにゃ...」 大阪地震の瞬間の猫動画に海外が注目 アメリカでは19世紀から軍で研究も

  • 3

    タイ洞窟の少年たちの中には、無国籍だが5カ国語を話す子どももいた

  • 4

    インドネシア、住民死亡の敵討ちでワニ292匹を虐殺 …

  • 5

    オウム死刑で考えた──日本の「無宗教」の真実

  • 6

    キャサリンVSメーガン! 英王室に勃発したファッシ…

  • 7

    米ロ会談、プーチンの肩持った裏切り者トランプにア…

  • 8

    全長7mの巨大ヘビが女性を丸のみ インドネシア、…

  • 9

    美しいビーチに半裸の美女、「中国のハワイ」にまだ…

  • 10

    金正恩「デート禁止令」に、北朝鮮大学生の不満が爆発

  • 1

    史上最悪の「スーパー淋病」にイギリス人男性が初感染、東南アジアで

  • 2

    美しいビーチに半裸の美女、「中国のハワイ」にまだ足りないもの

  • 3

    「何か来るにゃ...」 大阪地震の瞬間の猫動画に海外が注目 アメリカでは19世紀から軍で研究も

  • 4

    噴火がつづくハワイ・キラウエア火山──空から宝石が…

  • 5

    悪臭で飛行機を降ろされた男性、体組織が壊死する感…

  • 6

    金正恩の「美少女調達」システムに北朝鮮国民が怒り

  • 7

    金正恩の背後の足場に「死亡事故を予感」させる恐怖…

  • 8

    世界が激怒する中国「犬肉祭り」の残酷さ

  • 9

    【悲報】感電して牛が死に、飼い主が死に、助けよう…

  • 10

    現代だからこそ! 5歳で迷子になった女性が13年経て…

資産運用特集 グローバル人材を目指す Newsweek 日本版を読みながらグローバルトレンドを学ぶ
日本再発見 シーズン2
Pen編集部アルバイト募集
定期購読
期間限定、アップルNewsstandで30日間の無料トライアル実施中!
メールマガジン登録
売り切れのないDigital版はこちら

MOOK

ニューズウィーク日本版

特別編集 ジュラシックパークシリーズ完全ガイド

絶賛発売中!

STORIES ARCHIVE

  • 2018年7月
  • 2018年6月
  • 2018年5月
  • 2018年4月
  • 2018年3月
  • 2018年2月