最新記事

中国

中国AI「お喋りロボット」の反乱――ネットユーザーが勝つのか?

2017年8月7日(月)08時56分
遠藤誉(東京福祉大学国際交流センター長)

AIは、どのようにして「ユーザーの心の声」を「学習」したのか?

折しも、中国政府は「第一代人工知能発展計画の通知」を公布したばかりだ。習近平政権になってから、李克強国務院総理を中心に「インターネット+」計画を実施して、その一環として人工知能発展計画を実施し始め、今年7月8日に「国発201735号」として当該通知を発布した。

したがって、「お喋りロボット」は、この政府方針に沿ってインターネットの双方向性を高めるためのものだった。

最初は、そのはずだったのである。

だから、一定程度の「政府による指導」を受けてきているはずで、さらにネット空間では、少しでも反政府・反共産党的発言は全て削除されるので、AIはネットユーザーから「学習」する隙間はないはずなのである。

それでもお喋りロボットが「ユーザーの心の声」を学習してしまったのは、なぜなのだろうか?

この一連のニュースに接したとき、筆者が最初に疑問に思ったのは、そのことだった。

拙著『ネット大国中国  言論をめぐる攻防』(岩波新書、2011年)でも詳細にネットユーザーの挑戦と政府当局との「もぐら叩きのような攻防」を考察したが、2011年は胡錦濤政権時代で、それでもまだ習近平政権時代よりは、ネット規制は緩かった。

小冰が試験的に中国のネット空間に登場したのは2014年5月30日なので、すでに習近平による激しい言論弾圧が始まっている。だからもし洗脳せずにネット空間に放ったとしても、反政府的言論はすべて削除されるはずだから、反党・反政府的言論を学習する機会がないはずなのである。論理的に行けば、そういうことになる。

そこで、中国政府の対策と現実との間のギャップがどれくらいあるのかを、中国に戻っている昔の教え子たちに聞いてみた。すると概ね以下のような回答が戻ってきた。

●中国政府はたしかに少しでも反政府的言動があると、たちまち削除するツールを持っているが、かといって、全能ではない。

●このAIは中国最大のチャットソフトに公開されており、同時に7億近いネットユーザーとチャットしていることになるから、実際はそこまで多くなかったとしても、その会話の中から特定の情報を取り除くのは難しいのではないだろうか。

●特に自主学習をするAI内部のロジックやデータベースは、いわゆるブラックボックスみたいなものなので、制作者ですら全てを把握するのは不可能。

●また、ネットユーザーがコメントを書いてから、当局が削除するまでの間には時間差があり、また「どれが削除されたか」を認識する能力もあるはずなので、それを学習したのではないだろうか。

ニュース速報

ワールド

米、中国の南シナ海での軍事行動に反対=ボルトン大統

ビジネス

三菱UFJ、2億株・1000億円を上限に自己株を取

ビジネス

日経平均は大幅反落、一時700円超安 上海株高支え

ビジネス

ドル113円後半、円じり安 米中歩み寄りに期待

MAGAZINE

特集:ここまで来たAI医療

2018-11・20号(11/13発売)

病院での待ち時間や誤診、膨れ上がる医療費── 「切り札」人工知能が医療の難題を解決する日

人気ランキング

  • 1

    「クラスで一番の美人は金正恩の性奴隷になった」

  • 2

    射精にはなぜ時間がかかるのか?

  • 3

    太陽熱を最長18年貯蔵できる、画期的な太陽熱燃料が開発される

  • 4

    徴用工判決が突きつける「日韓国交正常化の闇」 韓…

  • 5

    カリフォルニア史上最悪の山火事にトランプがまた失…

  • 6

    インド8歳少女のレイプ殺人で、少女への性的暴行を死…

  • 7

    メルケル時代が終わる理由は、難民・移民問題ではない

  • 8

    「キッシンジャー・習近平」会談の背後に次期米大統…

  • 9

    自殺に失敗し顔を失った少女の願い――「何が起きても…

  • 10

    インドの性犯罪者が野放しになる訳

  • 1

    ナメクジを食べた男性、脳を侵す寄生虫で8年後に死亡

  • 2

    射精にはなぜ時間がかかるのか?

  • 3

    「クラスで一番の美人は金正恩の性奴隷になった」

  • 4

    全否定の「囚人筋トレ」が普通の自重筋トレと違う3つ…

  • 5

    病院の集中治療室にいた4歳の少女を5人で集団レイプ

  • 6

    インド8歳少女のレイプ殺人で、少女への性的暴行を死…

  • 7

    離陸前のインドネシア機から乗客脱出 荷物室にあっ…

  • 8

    全長7mの巨大ヘビが女性を丸のみ インドネシア、…

  • 9

    徴用工判決が突きつける「日韓国交正常化の闇」 韓…

  • 10

    【動画】本当に飛んだ、ドバイ警察の「空飛ぶバイク」

  • 1

    射精にはなぜ時間がかかるのか?

  • 2

    ナメクジを食べた男性、脳を侵す寄生虫で8年後に死亡

  • 3

    ベジタリアンに人肉を提供して殺人が発覚

  • 4

    「人肉は食べ飽きた」と自首した男と、とんでもない…

  • 5

    「クラスで一番の美人は金正恩の性奴隷になった」

  • 6

    子どもの時に、自宅に紙の本が何冊あったかが一生を…

  • 7

    現代だからこそ! 5歳で迷子になった女性が13年経て…

  • 8

    安倍首相はよく耐えた!

  • 9

    29年前の「女子高校生コンクリート詰め殺人事件」の…

  • 10

    全否定の「囚人筋トレ」が普通の自重筋トレと違う3つ…

資産運用特集 グローバル人材を目指す Newsweek 日本版を読みながらグローバルトレンドを学ぶ
日本再発見 シーズン2
「ニューズウィーク日本版」編集記者を募集
デジタル/プリントメディア広告営業部員を募集
「♯レゴのすべて」投稿キャンペーン
定期購読
期間限定、アップルNewsstandで30日間の無料トライアル実施中!
メールマガジン登録
売り切れのないDigital版はこちら

MOOK

ニューズウィーク日本版

ニューズウィーク日本版特別編集 レゴのすべて

絶賛発売中!

STORIES ARCHIVE

  • 2018年11月
  • 2018年10月
  • 2018年9月
  • 2018年8月
  • 2018年7月
  • 2018年6月