AIの思考回路はブラックボックス

アメリカでは、第三者が個人情報を利用する場合に本人の同意を得ることや、情報が漏洩した可能性を企業がユーザーに通知することが義務付けられている。だが説明を求める権利は、こうした従来の規制よりもはるかに強力に個人情報を保護する手段になる。

とはいえ、プラス面ばかりではない。ザンクトガレン大学（スイス）のトーマス・ブリ助教は情報公開の必要性を認める一方で、規制が行き過ぎれば開発者の権利が損なわれると懸念する。「アルゴリズムを全て公開しても説明できない判断もある」。機密性の高い情報を公開したくない企業や開発者が、AIの可能性を限界まで追求することに及び腰になる事態も考えられる。

こうした懸念に加えて、アメリカではネット上の個人情報を保護するプロバイダー規制が撤廃されるなど、プライバシー保護に逆行する流れも強まっている。そのため米議会で近い将来、説明を求める権利に類するものが認められる可能性は低いが、個人情報への配慮が必要ないという意味ではない。

AIの分析精度が上がり、人間社会のAIへの依存が一段と強まるなか、どんな個人情報がどう使われているのかを各ユーザーが知ることの重要性は高まる一方だ。政策決定者は企業の技術革新の足を引っ張ることなく、個人情報の悪用を阻止できるようなバランスの取れた規制を設けるべきだ。

そうなれば、なぜわが家で突然サー・ミックス・ア・ロットが流れたのかという謎も解明できるかもしれない。アマゾンよ、今のアレクサに無理なことは分かっているが、もしも理由を説明できるなら連絡してほしい。

【お知らせ】ニューズウィーク日本版メルマガリニューアル！
　ご登録（無料）はこちらから＝>>

© 2017, Slate