米刑務所に広がるAI監視 1カ月で1万時間の通話を傍受､｢一線越える｣運用に懸念

セキュラスの広報担当者は文書による声明で「弊社製品の利用者すべての市民的自由を保護することにコミットしている」とした。

GTLに対しては、このようなテクノロジーの開発を今も進めているのか、どのような乱用防止手段を導入しているのか問い合わせたが、同社はコメントを控えた。

LEOテクノロジーズは、この市場における最も先進的なシステムとして「ベラス」を宣伝している。

ミズーリ州矯正局への開示請求で入手した文書では、「ベラス」について、ほぼリアルタイムの分析と有用なレポートを提供するという点で、競合製品に比べて独自性があると表現されている。

また「収監者とその関係者の行動パターン」にフラグを立てることで、法執行機関が犯罪組織の構成員を特定する手がかりになるとも評価されている。

カタリナ保安官代理は、このシステムを使えば、何時間分もの通話記録に目を通す代わりに、「特定の目的に合致するキーワードに狙いを定めることで、職員はより効率的に時間を使えるようになる」と話した。

だが、電子フロンティア財団（EFF）の研究者として刑務所の監視システムを調査しているベリル・リプトン氏は、「ベラス」を使って刑務所からの通話の相手を犯罪組織の活動に結びつけてしまえば、無実の人まで巻き込んでしまうリスクがあると語る。

リプトン氏は「自分がその種のリストに載っているかどうか、またそのリストから削除してもらう方法が分からない場合も多い」と述べ、サフォーク郡の法執行機関が中南米系の男性を犯罪組織の構成員として誤認した例があるとも指摘した。

こうした批判についてサフォーク郡にコメントを求めたが、回答は得られなかった。

「一線を越える」運用も

サフォーク郡の文書によると、「ベラス」のシステムで得られた情報は、すでにLEOテクノロジーズの既存・潜在顧客や、20を超える法執行機関、移民当局・担当部門に提供されているという。

昨年、新型コロナ禍が最も深刻だった時期、LEOテクノロジーズは複数の刑務所当局と提携し、監視対象とする通話の範囲を拘置施設内でのウイルスに関する話題にまで拡張したことが文書記録で判明している。

同社が顧客に配布したデータシートによれば、2020年春には「咳」や「感染」といったキーワードをもとに数千件の通話にフラグを立てており、収監者の中での感染拡大を封じ込めることに貢献したことが強調されている。

ただしこのテクノロジーは、COVID－19の感染拡大の可能性を検知するためだけに使われたわけではない。

メールの記録では、アラバマ州カルフーン郡の刑務所当局は「ベラス」を利用して、収監者が施設の清潔さを請け合っている通話を特定し、刑務所に対する訴訟に対抗するための材料を用意しようとしていたことが示されている。

LEOテクノロジーズのジェームズ・セクストン最高執行責任者（COO）は、イリノイ州クック郡の刑務所へのメールによる営業活動の中で、システムの潜在的な活用法の一例として、このアラバマ州のケースに言及した。

「保安官は、収監者や活動家による民事訴訟で争われている責任を免れるうえで、（こうして特定した通話が）役に立つと考えている」と同COOは書いている。