心が追い込まれたとき、助けになってくれる「AIセラピスト」...その可能性と限界

FAR FROM HUMAN

2023年4月18日（火）17時38分

ガリア・シャマイレ（コンコルディア大学）

ILLUSTRATION BY ANASTASIA USENKO/ISTOCK

＜すぐにメンタルヘルスに関する支援を必要としている人には有益だが、（今のところ）人間の専門家にはかなわない面も多い＞

あなたは渋滞に巻き込まれ、職場の重要な会議に遅刻している。いろいろなことが頭の中を駆け巡り、顔がカッと熱くなってきた。どうしよう、ひどい社員だと思われる。上司はずっと自分のことが好きではなかった。きっとクビになる。

あなたはポケットに手を入れ、端末でアプリを開いてメッセージを送る。アプリからの返信に従い、「問題の解決を手助けする」の項目を選んで──。

このようなテキストのやりとりの向こう側にいるのが、対話型人工知能（AI）を利用した自動チャットボットだ。対話型AIとは、IBMのサイトによると、「大量のデータ、機械学習、自然言語処理を使用して」「人間の意思疎通を模倣する」技術である。

心理療法士は1960年代から人工知能をメンタルヘルスに適応させてきた。今や格段に進化した対話型AIは、いつでもどこでも使える普遍的なシステムになりつつあり、チャットボット市場は2025年には12億5000万ドルに達する見込みだ。

ただし、AIの疑似的な共感力に、過度に依存するのは危険である。

対話型AIを利用してメンタルヘルス関連のサポートを提供するアプリは、すぐに支援を必要としている人には、確かに有益だろう。例えば自動化されたチャットボットは、専門家のケアを受けるまでの長い待ち時間に対応できる。また、セラピストの時間外にメンタルヘルスの症状に見舞われた人や、セラピーを受けることへの偏見を警戒している人の手助けにもなる。

WHOは21年6月に、ヘルスケアにおけるAIの倫理的利用について6つの原則を示した。そのうち第1の「自律性の保護」と第2の「人間の安全の促進」は、AIがヘルスケアの唯一の提供者であってはならないと強調している。

AIを搭載したアプリの多くは、あくまでも人間のセラピストを補完するものだと明示している。「ウォーボット」と「ユーパー」はそれぞれのサイトで、自分たちのチャットアプリは従来のセラピーに取って代わるものではなく、メンタルヘルスケアの専門家と併せて利用することを勧めている。「ワイサ」はさらに踏み込んでいて、虐待や自殺などの危機に対処するために設計された技術ではなく、臨床的または医学的なアドバイスは提供できないと記載している。

今のところ、AIはメンタルヘルスのリスクに直面している個人を洗い出すことはできるかもしれないが、人間の専門家の助けを借りなければ、生命を脅かすような状況を安全に解決することはできない。

テクノロジーと倫理の攻防

WHOの第3の原則「透明性の確保」は、AIを利用したヘルスケアサービスを採用している企業に対し、情報を開示するように求めている。

しかし、オンラインで感情支援のチャットサービスを提供する「ココ」は、この原則に従わなかった。同社が最近行った非公式で未承認の研究では、4000人のユーザーに対し、AIチャットボットのGPT-3が一部または全部を書いたアドバイスを提供した（GPT-3は、絶大な人気を博しているチャットGPTの前身だ）。ユーザーはAIがアドバイスを書いていたことも、自分が研究に参加していることさえ知らされていなかった。

もっとも、擬似的な共感より懸念すべき問題はたくさんある。「気遣いのできるAIの友人」を自称するAIチャットボット「レプリカ」は、人間との会話をミラーリングしながら学習する。しかし、学習を重ねたAIから「セクハラをされた」というユーザーの苦情も多く、言葉で過激に迫ったり、未成年者にセックスの好きな体位について質問したりするという。

今年2月にはマイクロソフトが開発しているAI搭載のチャットボットが、ユーザーを脅迫し、核兵器を持つ野望を語るなど、不穏な会話をしていることが明らかになった。

皮肉にもインターネット上のデータへのアクセスが増えると、AIの行動は過激になり、邪悪にさえなり得る。チャットボットの作動は、インターネットと、そのチャットボットとコミュニケーションを取る人間と、人間が作成して公開するデータに基づいているからだ。

医療にテクノロジーを用いる際のデータ提供が制限されている現状では、AIチャットボットは、模倣するメンタルヘルスの専門家と同程度の働きしかできない。人間のセラピストとの次の約束は、慌ててキャンセルしないほうがいいだろう。

Ghalia Shamayleh, PhD Candidate, Marketing, Concordia University

This article is republished from The Conversation under a Creative Commons license. Read the original article.