食事に関するアドバイスをAIに求めた60歳の男性が、オープンAIの「チャットGPT」の助言に従った結果、入院する羽目になった。

毎日の食事に含まれる塩分量を減らす方法を探していた男性は、食塩を臭化ナトリウムという化学物質に入れ替えた。ところがその後、幻覚や被害妄想の症状が表れて、入院治療が必要になった。ただ、チャットGPTとのやり取りは復元できず、男性が具体的にどんなアドバイスを受けていたのかを医師が判断することはできなかった。

この症例を紹介した論文の中で、ビンガムトン大学、スタンフォード大学、テキサスA＆M大学、インディアナ大学の研究チームは、AIが生成した健康関連のアドバイスについては透明性が欠如しているため、こうした症例に関する調査が難しいこともあると指摘している。

「AIは健康関連の質問に関して大きな助けにもなり得る」。論文著者のカイチェン・ヤンは本誌にそう語った。「しかしAIは間違える。間違った答えを正しい答えと同じくらい自信たっぷりに言い切ることもある。その結果、治療が遅れたり、誤った薬を服用したりすることになりかねない」

次のページ
AIに相談して受診を見送り
【関連記事】