最新記事

ネット

少女がプールで遊ぶだけの動画が40万回再生──YouTubeの危うい「おすすめ」機能

2019年6月6日(木)14時30分
佐藤由紀子

ホームムービーが別の思惑で閲覧される事態に...... Ruvic-REUTERS

<あどけない子どもの動画を、YouTubeが小児性愛的指向のあるユーザーへのお勧め動画として表示してしまうという機能が問題になっている>

10歳の少女が、友達と水着でプールで遊んでいるだけの動画をYouTubeに投稿したところ、短期間で40万回以上再生され、母親を驚かせた──。米New York Timesは6月3日、あどけない子どもの動画を、YouTubeが小児性愛的指向のあるユーザーへのお勧め動画として表示してしまう問題を紹介した。

この機能は機械学習アルゴリズムを採用し、ユーザーが動画を再生すると、その下に「次の動画」としてその動画を見たユーザーが好みそうな動画をリスト表示するというもの。YouTubeによると、このお勧め機能によって再生される動画は再生される動画全体の約70%を占めるという。

「次の動画」に表示される動画が段階的に過激になっていく

New York Timesは、「次の動画」に表示される動画が段階的に過激になっていくという研究者の指摘を紹介している(この現象は、「不思議の国のアリス」でアリスが落ちた穴に例えて「ウサギ穴エフェクト」と呼ばれる)。例えば、自転車の動画を見て「次の動画」で何本も関連動画を再生していると、自転車レースでのショッキングな事故の動画を勧められるようになる。性的な動画の場合、お勧めはどんどん奇妙で極端な方向に進んでいき、被写体は若くなっていく。

研究では、セックスについて話す女性の動画を再生すると、下着姿の若い女性の動画を勧められ、思春期の女性が子供服を着てポーズを取っている動画を勧められ、その先はひたすら"服を少し身につけた"子どもの動画が勧められ続けた。

勧められる子どもの動画の多くは、性的な内容を意図したものではなく、おそらく家族内で楽しむホームムービー的な感覚で両親が投稿したものだが、YouTubeのアルゴリズムは特定の好みを持つユーザーのアクティビティなどから学ぶことで、そうした動画を別の解釈で勧めるようになったとみられる。

YouTubeは対策を説明するが......

YouTubeはNew York Timesに対し、ウサギ穴エフェクトを否定したが、「子どもに関しては、お勧めのスタンスをより保守的にしていきたい」と語った。

YouTubeは、YouTube における子どもの安全というWebページで「未成年者の心と体を危険にさらすコンテンツは、YouTube で許可されていません」と謳っているが、ただのファミリービデオでも、子どもが水着姿だったり着替えていたりするコンテンツが小児性愛者に対する「次の動画」としてまとめて表示されれば、未成年者を危険にさらすことになり得る。

この報道を受け、YouTubeは同日、公式ブログで、こうした問題に対処するよう機械学習システムの改善などに取り組んでいると説明した。

例えば、保護者による監督のない未成年者(国や地域によって定義は異なる)によるライブ配信の禁止、未成年者が映っている動画へのコメント機能の無効化、未成年者が映っており、悪用される可能性のある動画の「次の動画」への表示の制限などだ。

完全排除はしない、とYouTube

コメント機能の無効化は、1月から実施されている。これは、子どもが映っているファミリー動画のコメント欄に小児性愛者向けの動画のリンクを投稿する行為が報告されたことを受けて実施した。

New York Timesは、問題に対処するためには未成年者が映っている動画を「次の動画」から完全に排除する必要があるとしているが、YouTubeは同メディアに対し、「次の動画」から排除すると動画へのアクセスが激減し、クリエイターを傷つけることになるので完全排除はしないと語った。

ニュース速報

ビジネス

現代自グループ、自動運転車開発に350億ドル投資へ

ビジネス

貿易などのリスクなお高水準、「会合ごとに」金利決定

ビジネス

独ZEW景気期待指数、10月はマイナス22.8 予

ビジネス

中国新規融資、9月は1.69兆元に増加 予想上回る

MAGAZINE

特集:嫌韓の心理学

2019-10・15号(10/ 8発売)

日本人はいつから韓国が嫌いになったのか? 心理学とメディア分析で「嫌韓」を分析

※次号は10/16(水)発売となります。

人気ランキング

  • 1

    ラグビー日本代表「多様性ジャパン」は分断と対立を超える

  • 2

    イランで逮捕された「ゾンビ女」の素顔

  • 3

    写真撮影で「怪しいOKサイン」を出したテーマパークのスタッフが解雇

  • 4

    保守がネット右翼と合体し、いなくなってしまった理…

  • 5

    全米最悪93人の連続殺人犯が「驚異的」な記憶力で描…

  • 6

    中国に謝罪したNBAに米議員が猛反発

  • 7

    日本に巣食う「嫌韓」の正体

  • 8

    台風19号、東日本直撃し各地で氾濫被害 千曲川は堤防…

  • 9

    千曲川周辺の救助活動続く 台風19号で広範囲に浸水…

  • 10

    韓国チョ・グク法相が辞任表明 親族の不正疑惑巡る批…

  • 1

    イランで逮捕された「ゾンビ女」の素顔

  • 2

    全米最悪93人の連続殺人犯が「驚異的」な記憶力で描いた被害者の肖像

  • 3

    北朝鮮漁民は「100年前の船」で無謀な出漁......日本の漁師から同情の声も

  • 4

    日本に巣食う「嫌韓」の正体

  • 5

    「OK」のサインは白人至上主義のシンボルになったの…

  • 6

    ツイッター動画が人生を変えた......ホームレス・シ…

  • 7

    「国に『金くれ』とか言うなよ」という話? 再開され…

  • 8

    日本が「生産性が低すぎる国」になった五輪イヤー 衰…

  • 9

    『ジョーカー』怒りを正当化する時代に怒りを描く危…

  • 10

    なぜ韓国の若者は失業に苦しみ続けるのか

  • 1

    韓国で長引く日本製品不買運動、韓国企業への影響が徐々に明らかに

  • 2

    写真撮影で「怪しいOKサイン」を出したテーマパークのスタッフが解雇

  • 3

    イランで逮捕された「ゾンビ女」の素顔

  • 4

    「OK」のサインは白人至上主義のシンボルになったの…

  • 5

    繁殖を止めるために遺伝子組み換えされた蚊、自然界…

  • 6

    「独島が韓国の領土であるとの証拠は何もない」韓国…

  • 7

    米韓関係の険悪化も日本のせい⁉ 文在寅がまた不安な…

  • 8

    コモドドラゴンの体内に「鎧(よろい)」があること…

  • 9

    サウジ原油施設攻撃で世界は変わる

  • 10

    ハワイで旅行者がヒトの脳に寄生する寄生虫にあいつ…

PICTURE POWER

レンズがとらえた地球のひと・すがた・みらい

英会話特集 資産運用特集 グローバル人材を目指す Newsweek 日本版を読みながらグローバルトレンドを学ぶ
日本再発見 シーズン2
CCCメディアハウス求人情報
定期購読
期間限定、アップルNewsstandで30日間の無料トライアル実施中!
メールマガジン登録
CHALLENGING INNOVATOR
売り切れのないDigital版はこちら

MOOK

ニューズウィーク日本版別冊

絶賛発売中!

STORIES ARCHIVE

  • 2019年10月
  • 2019年9月
  • 2019年8月
  • 2019年7月
  • 2019年6月
  • 2019年5月