米刑務所に広がるAI監視 1カ月で1万時間の通話を傍受､｢一線越える｣運用に懸念

クック郡の広報担当者は、同郡ではLEOテクノロジーズと提携して施設内での「自傷行為」事例を特定するための試験運用を検討したが、「ベラス」は高額すぎると判断したと述べた。

コロンビア大学ナイト・ファースト・アメンドメント・インスティチュートの専属弁護士であるステファニー・クレント氏は、刑務所では「行刑学上、合法的な目的」に関連した監視を行うことが認められていると述べている。

公開記録によれば、「ベラス」は日常的に運用されており、たとえば自傷行為や自殺を考えている可能性のある収監者の特定や、矯正施設内外の殺人・強姦犯人の発見に用いられていることが分かる。

だがクレント氏は、アラバマ州で実施されたような監視活動は「まさに一線を越えている」と述べた。

サフォーク郡でも似たような運用が行われており、収監者が父親に「拘置所が新型コロナ感染の発生を隠蔽している」と告げ、メディアへの連絡について協議している通話に対し、「ベラス」のシステムがフラグを付与していた。

この通話に関する公式報告が10人以上の職員とLEO社員の間で共有されていたことが、サフォーク郡の文書から判明している。

クレント氏は、こうした事例は、AIを搭載した監視ツールが、虐待に対して声を上げる、あるいは内部告発者になろうとする収監者を特定するために使われる可能性があると指摘。

メールを検証した同氏は、「拘置所を運営している人々の利害や評判を守ることは正当な目標ではない」と語った。

取り返しがつかない「なだれ効果」

また、犯罪組織の活動や重大犯罪が強調される一方で、ニューヨーク州からのメールによれば、当局は「ベラス」を使って、不正に持ち込まれた携帯電話の使用から給付金の不正受給まで、より軽微な犯罪の手掛かりを得るようになっている。

テキサス州では今年に入り、このところ急増しているメキシコから国境を越えて入国しようとする移民に対応している施設とLEOテクノロジーズとの提携契約を結んだ。これに先立ち、州知事は移民流入に関する緊急事態宣言を発出している。

ニューヨークの米国自由人権協会に参加する弁護士ダニエル・シュワルツ氏は、文書の一部を検証して、「時間の経過とともに正当化の理由が変化していくのが分かる」と語った。

サフォーク郡の文書によれば、同郡だけでも、2019年4月の導入から2020年5月までの間に、「ベラス」を使って250万回以上の通話が監視対象となり、96件の「有用な調査レポート」をもたらしたという。

カタリナ保安官代理は「この技術によって受刑者の自殺を検知・予防し、人身売買を摘発し、暴力犯罪を予防・解決できた」と述べた。

だがクレント氏は、96件の有用なレポートが得られたからといって、数百万件という大量の通話傍受が正当化されるかどうかは微妙だとの考えを示した。「いわゆる『なだれ効果』というものがある。こうした技術がいったん導入されると、使うのを止めるのは難しくなる」

シュワルツ氏は、米国各地の刑務所で先進的な監視システムの導入が増加する中で、何らかの歯止めを設けなければならないと指摘した。

「家族や愛する人と取りうる唯一のコミュニケーション手段が、大がかりな監視の対象の一部になってしまった場合、人々はどうなってしまうのか。それを考えてみる必要がある」とシュワルツ氏は語った。

（Avi Asher-Schapiro記者、David Sherfinski記者、翻訳：エァクレーレン）

［ロイター］

Copyright (C) 2021トムソンロイター・ジャパン（株）記事の無断転用を禁じます

---