コラム

フェイスブックの「自殺予防・通報」機能に賛否両論

2019年01月09日(水)16時15分

特に銃社会のアメリカでは銃犯罪の「予兆」を捉えているという評価もある stnazkul/iStock.

<フェイスブックが17年から実施している自殺予防・通報のシステムには、実際に救命ができているという評価の反面、プライバシー保護が十分でないとか判断の精度が低すぎるといった反対意見も出ている>

フェイスブックは、2017年9月10日の「WHO(世界保健機関)の自殺予防デー」に自殺防止のキャンペーンを本格化すると告知。この前後から、自殺に関する投稿内容のモニターを開始しました。ザッカバーグCEOによれば、この1年間で「3500人への支援」ができたとしています。

さらに、2018年11月にはフェイスブックは、投稿内容のなかから「自身を傷つける緊急性のあるリスク」を発見するための、AIによる自動巡回についてより詳しい発表をしました。投稿、コメントなど文字情報だけでなく、動画(ライブも含む)も対象として自動巡回を行い、検知された場合に、警察の自殺予防セクションなどに通報がされるシステムです。

この発表の後、米国内では1カ月あたり100件の検知という実績が上がっているという報道もありますが、その一方で賛否両論が起きています。

まず賛成意見としては、人命最優先という価値観から、具体的な救命ができているという考え方があります。各国・各州の警察当局からは、そのような声がありますし、精神病医の中にはそのような見解があると報じられています。また、特に銃社会であるアメリカの場合は、自殺衝動から乱射事件を起こして無関係な多くの人を「巻き添え」にするケースがあることから、その「予兆」が自動的に発見できることへの評価もあります。

その一方で、反対意見も多くなっています。

一番多く指摘を受けているのは、プライバシーの問題です。メンタルヘルスという、人間にとって最もプライベートな問題を、本人の了承なしに警察当局など第三者に渡すということは、例えば欧州では2018年5月に実施された「EU一般データ保護規則(GDPR)」に違反します。従って、フェイスブックは、この自殺防止モニターについてはEU域内では実施していないとしています。

この点では、アメリカ国内でも批判があります。例えば、一般的に医療関連の企業や団体に要求されるプライバシー管理の水準と比較して、フェイスブックの対応は緩すぎるというのです。少なくとも、医療機関の場合、メンタルヘルスの問題は、本人の同意なく第三者に渡すべきではないという規則が徹底しているからです。

精神科医などの専門家からは、フェイスブックのアルゴリズムが「粗雑にすぎる」という批判が出ています。例えば、「とても悲しい」とか「自分はひとりぼっち」という字句を見て危険というフラグを立て、それに呼応するような内容が発見できると自動的に警告が出るというのは「まるでブラックボックスに等しい」というのです。つまり、人間の自殺意思というのは、もっと複雑な前後の文脈を見て判断しなくてはならない中で、判断の精度が低すぎるという意見です。

プロフィール

冷泉彰彦

(れいぜい あきひこ)ニュージャージー州在住。作家・ジャーナリスト。プリンストン日本語学校高等部主任。1959年東京生まれ。東京大学文学部卒業。コロンビア大学大学院修士(日本語教授法)。福武書店(現ベネッセコーポレーション)勤務を経て93年に渡米。

最新刊『自動運転「戦場」ルポ ウーバー、グーグル、日本勢――クルマの近未来』(朝日新書)が7月13日に発売。近著に『アイビーリーグの入り方 アメリカ大学入試の知られざる実態と名門大学の合格基準』(CCCメディアハウス)など。メールマガジンJMM(村上龍編集長)で「FROM911、USAレポート」(www.jmm.co.jp/)を連載中。週刊メルマガ(有料)「冷泉彰彦のプリンストン通信」配信中。

あわせて読みたい
ニュース速報

ビジネス

ヘッジファンド、銀行株売り 消費財に買い集まる=ゴ

ワールド

訂正-スペインで猛暑による死者1180人、昨年の1

ワールド

米金利1%以下に引き下げるべき、トランプ氏 ほぼ連

ワールド

トランプ氏、通商交渉に前向き姿勢 「 EU当局者が
あわせて読みたい
MAGAZINE
特集:AIの6原則
特集:AIの6原則
2025年7月22日号(7/15発売)

加速度的に普及する人工知能に見えた「限界」。仕事・学習で最適化する6つのルールとは?

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    「史上最も高価な昼寝」ウィンブルドン屈指の熱戦中にまさかの居眠り...その姿がばっちり撮られた大物セレブとは?
  • 2
    真っ赤に染まった夜空...ロシア軍の「ドローン700機」に襲撃されたキーウ、大爆発の瞬間を捉えた「衝撃映像」
  • 3
    どの学部の卒業生が「最も稼いでいる」のか? 学位別「年収ランキング」を発表
  • 4
    エリザベス女王が「うまくいっていない」と心配して…
  • 5
    「お腹が空いていたんだね...」 野良の子ネコの「首…
  • 6
    【クイズ】次のうち、生物学的に「本当に存在する」…
  • 7
    千葉県の元市長、「年収3倍」等に惹かれ、国政に打っ…
  • 8
    「ベンチプレス信者は損している」...プッシュアップ…
  • 9
    イギリスの鉄道、東京メトロが運営したらどうなる?
  • 10
    日本より危険な中国の不動産バブル崩壊...目先の成長…
  • 1
    「ベンチプレス信者は損している」...プッシュアップを極めれば、筋トレは「ほぼ完成」する
  • 2
    「弟ができた!」ゴールデンレトリバーの初対面に、ネットが感動の渦
  • 3
    「お腹が空いていたんだね...」 野良の子ネコの「首」に予想外のものが...救出劇が話題
  • 4
    日本企業の「夢の電池」技術を中国スパイが流出...AP…
  • 5
    千葉県の元市長、「年収3倍」等に惹かれ、国政に打っ…
  • 6
    どの学部の卒業生が「最も稼いでいる」のか? 学位別…
  • 7
    イギリスの鉄道、東京メトロが運営したらどうなる?
  • 8
    エリザベス女王が「うまくいっていない」と心配して…
  • 9
    完璧な「節約ディズニーランド」...3歳の娘の夢を「…
  • 10
    トランプ関税と財政の無茶ぶりに投資家もうんざり、…
  • 1
    「コーヒーを吹き出すかと...」ディズニーランドの朝食が「高額すぎる」とSNSで大炎上、その「衝撃の値段」とは?
  • 2
    「あまりに愚か...」国立公園で注意を無視して「予測不能な大型動物」に近づく幼児連れ 「ショッキング」と映像が話題に
  • 3
    10歳少女がサメに襲われ、手をほぼ食いちぎられる事故...「緊迫の救護シーン」を警官が記録
  • 4
    JA・卸売業者が黒幕説は「完全な誤解」...進次郎の「…
  • 5
    ディズニー・クルーズラインで「子供が海に転落」...…
  • 6
    気温40℃、空港の「暑さ」も原因に?...元パイロット…
  • 7
    燃え盛るロシアの「黒海艦隊」...ウクライナの攻撃で…
  • 8
    「小麦はもう利益を生まない」アメリカで農家が次々…
  • 9
    イランを奇襲した米B2ステルス機の謎...搭乗した専門…
  • 10
    「うちの赤ちゃんは一人じゃない」母親がカメラ越し…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story