米刑務所に広がるAI監視 1カ月で1万時間の通話を傍受､｢一線越える｣運用に懸念

米ニューヨーク州サフォーク郡の保安官は、刑務所の電話を使った通話を傍受するためのAIシステムの予算として、連邦政府に70万ドル（約8000万円）を請求した。犯罪組織関連の暴力犯罪への対策に欠かせないツールとの位置づけだった。写真はジョージア州チャタム郡の刑務所で2019年2月撮影（2021年　ロイター／Shannon Stapleton）

米ニューヨーク州サフォーク郡の保安官は、刑務所の電話を使った通話を傍受するための人工知能（AI）システムの予算として、連邦政府に70万ドル（約8000万円）を請求した。犯罪組織関連の暴力犯罪への対策に欠かせないツールとの位置づけだった。

だが、トムソン・ロイター財団が入手した郡の公式記録によれば、郡の刑務所では、それよりもはるかに広範囲の内容にわたる通話を傍受する結果となった。システムは実に1カ月当たり60万分もの通話をスキャンしていたのである。

サフォーク郡では2019年から、カリフォルニア州に本社を置くLEOテクノロジーズが販売するAIスキャンシステム「ベラス」の初期実験を行った。「ベラス」は、アマゾン・ウェブ・サービスの自然言語処理・文字起こしツールを使い、キーワード検索でフラグを付けられた通話の文字起こしを行うものだ。

LEOテクノロジーズと法執行機関の当局者は、「ベラス」は刑務所・拘置所の安全を守り、犯罪に対抗するための重要なツールだとしている。しかし、こうしたシステムが収監者や外部にいる家族などのプライバシー権を踏みにじるものだという批判もある。

移民問題を専門とする法曹団体ジャスト・フューチャーズ・ローの副会長を務めるジュリー・マオ氏は、「これほど迅速かつ大規模な監視能力というのは、信じがたいほど恐ろしく、身の毛もよだつ思いだ」と語る。

LEOテクノロジーズによれば、サフォーク郡の他にも、テキサス州ヒューストンやアラバマ州バーミングハムなど国内7州にある数十カ所の郡拘置所・州刑務所で、すでに収監者の通話を監視するために「ベラス」が導入されているという。

サフォーク郡で「ベラス」の運用を支えてきたケビン・カタリナ保安官代理は、このシステムが「公共の安全、そして職員と収監者の安全に貢献していることは間違いない」と述べた。

8つの州から送られてきたメールと契約書によると、このツールを使ってスキャンされる通話は広い範囲に及んでいる。たとえば、スペイン語で「弁護士」を意味する単語を含む会話や、拘置施設が新型コロナウイルス感染症（COVID－19）の感染拡大を隠蔽（いんぺい）しているという非難などだ。

サフォーク郡の例では、保安官事務所からのメールによると、職員が複数の、ときには無難な意味を持つ単語を検索することもあるという。たとえば「mara」は、犯罪組織を意味することもあれば、単に友人グループを意味する場合もある。

またサフォーク郡の保安官代理らの間では、収監中に不正に失業手当を受給しているというフラグを立てられた収監者について、定期的な調査報告を回覧していた。

一連の裁判では、米当局に対し、安全確保や犯罪対策を目的として収監者の会話を監視する広範な裁量を与えている。

カタリナ保安官代理は「郡の収監者は全員、自分の通話が傍受されていることを告知されている」と語った。

LEOテクノロジーズからはコメントを得られなかったが、同社のウェブサイトには「ベラス」について、収監者に対する脅威を警告する「客観的な」方法であり、「矯正施設内での犯罪行為を阻止し、決定的な証拠によって進行中の捜査を支援する」と記されている。

無実の人を巻き込む可能性

LEOテクノロジーズの他にも、こうした監視サービスを提供、または提供に向けて取り組んでいる企業は複数ある。刑務所向け電話インフラを提供する大手2社であるセキュラスとGTLも、監視サービスを販売している。