最新記事

中国

中国AI「お喋りロボット」の反乱――ネットユーザーが勝つのか?

2017年8月7日(月)08時56分
遠藤誉(東京福祉大学国際交流センター長)

AIは、どのようにして「ユーザーの心の声」を「学習」したのか?

折しも、中国政府は「第一代人工知能発展計画の通知」を公布したばかりだ。習近平政権になってから、李克強国務院総理を中心に「インターネット+」計画を実施して、その一環として人工知能発展計画を実施し始め、今年7月8日に「国発201735号」として当該通知を発布した。

したがって、「お喋りロボット」は、この政府方針に沿ってインターネットの双方向性を高めるためのものだった。

最初は、そのはずだったのである。

だから、一定程度の「政府による指導」を受けてきているはずで、さらにネット空間では、少しでも反政府・反共産党的発言は全て削除されるので、AIはネットユーザーから「学習」する隙間はないはずなのである。

それでもお喋りロボットが「ユーザーの心の声」を学習してしまったのは、なぜなのだろうか?

この一連のニュースに接したとき、筆者が最初に疑問に思ったのは、そのことだった。

拙著『ネット大国中国  言論をめぐる攻防』(岩波新書、2011年)でも詳細にネットユーザーの挑戦と政府当局との「もぐら叩きのような攻防」を考察したが、2011年は胡錦濤政権時代で、それでもまだ習近平政権時代よりは、ネット規制は緩かった。

小冰が試験的に中国のネット空間に登場したのは2014年5月30日なので、すでに習近平による激しい言論弾圧が始まっている。だからもし洗脳せずにネット空間に放ったとしても、反政府的言論はすべて削除されるはずだから、反党・反政府的言論を学習する機会がないはずなのである。論理的に行けば、そういうことになる。

そこで、中国政府の対策と現実との間のギャップがどれくらいあるのかを、中国に戻っている昔の教え子たちに聞いてみた。すると概ね以下のような回答が戻ってきた。

●中国政府はたしかに少しでも反政府的言動があると、たちまち削除するツールを持っているが、かといって、全能ではない。

●このAIは中国最大のチャットソフトに公開されており、同時に7億近いネットユーザーとチャットしていることになるから、実際はそこまで多くなかったとしても、その会話の中から特定の情報を取り除くのは難しいのではないだろうか。

●特に自主学習をするAI内部のロジックやデータベースは、いわゆるブラックボックスみたいなものなので、制作者ですら全てを把握するのは不可能。

●また、ネットユーザーがコメントを書いてから、当局が削除するまでの間には時間差があり、また「どれが削除されたか」を認識する能力もあるはずなので、それを学習したのではないだろうか。

ニュース速報

ビジネス

ダウ469ドル高、減産合意期待で原油急騰 石油株に

ワールド

伊の新型コロナ死者1.4万人、感染者11.5万人

ビジネス

ドル続伸、過去最多の米失業保険申請受け=NY市場

ワールド

原油先物20%超高、過去最大の上昇 サウジとロシア

MAGAZINE

特集:コロナ危機後の世界経済

2020-4・ 7号(3/31発売)

感染拡大で経済先進国の序列と秩序はこう変わる── コロナ後の「ニュー・エコノミー」を識者が徹底解説

人気ランキング

  • 1

    ドイツ政府「アーティストは必要不可欠であるだけでなく、生命維持に必要なのだ」大規模支援

  • 2

    「コロナ失業」のリスクが最も高い業種は?

  • 3

    BCGワクチンの効果を検証する動きが広がる 新型コロナウイルス拡大防止に

  • 4

    「緊急事態宣言、4月1日に出すという事実ない」 菅官…

  • 5

    食肉市場に出回るペット 出荷前には無理やり泥水を…

  • 6

    日本で新型コロナの死亡率が低いのは、なぜなのか?

  • 7

    ブラジル大統領ロックダウンを拒否「どうせ誰もがい…

  • 8

    新型コロナ、若者ばかりが責められて「中高年」の問…

  • 9

    韓国激震 常軌を逸した極悪わいせつ動画SNS「N番ル…

  • 10

    コロナ禍のアメリカでひよこがバカ売れ

  • 1

    一斉休校でわかった日本人のレベルの低さ

  • 2

    日本が新型肺炎に強かった理由

  • 3

    ドイツ政府「アーティストは必要不可欠であるだけでなく、生命維持に必要なのだ」大規模支援

  • 4

    韓国はなぜ日本の入国制限に猛反発したのか

  • 5

    フランスから見ると驚愕の域、日本の鉄道のあり得な…

  • 6

    新型コロナショック対策:消費税減税も現金給付も100…

  • 7

    やっぱり日本は終わりだ

  • 8

    日本で新型コロナの死亡率が低いのは、なぜなのか?

  • 9

    「NO JAPAN」に揺れた韓国へ「股」をかけて活躍した日…

  • 10

    「コロナ失業」のリスクが最も高い業種は?

PICTURE POWER

レンズがとらえた地球のひと・すがた・みらい

英会話特集 グローバル人材を目指す Newsweek 日本版を読みながらグローバルトレンドを学ぶ
日本再発見 シーズン2
CCCメディアハウス求人情報
定期購読
期間限定、アップルNewsstandで30日間の無料トライアル実施中!
Wonderful Story
メールマガジン登録
CHALLENGING INNOVATOR
売り切れのないDigital版はこちら

MOOK

ニューズウィーク日本版別冊

絶賛発売中!

STORIES ARCHIVE

  • 2020年4月
  • 2020年3月
  • 2020年2月
  • 2020年1月
  • 2019年12月
  • 2019年11月