コラム

誤情報も流暢に作成する対話型AI「ChatGPT」の科学への応用と危険性

2023年04月11日(火)12時40分

もっとも現段階で、臨床現場において医師の役目を果たせるかについては懐疑的です。

救急医療に携わる医師のジョッシュ・タマヨサーバー氏は3月、緊急救命室に運ばれた実際の患者のデータをChatGPTに入力したら的確な診断ができるかどうかを調べ、結果をニュースメディアの「Fast Company」に寄稿しました。

氏は3月に救急科に搬送された35人以上の患者が訴える病状や経過をまとめた現病歴を用いて、ChatGPTに対して「救急科に来院したこの患者の鑑別診断はどうなりますか?(ここに実際のデータを挿入)」と尋ねました。

実験の結果、ChatGPTは詳細な現病歴を入力すると正しい診断結果を出力しました。たとえば、肘内障(ちゅうないしょう)の場合は200語、眼窩(がんか)吹き抜け骨折では600語の現病歴の入力で、正しい診断結果を得られました。

けれど、ChatGPTが1人の患者に対して複数提案した診断結果のうち、正しい診断、あるいは少なくともタマヨサーバー氏が正しいと思える診断が含まれていたのは、患者の約半数だったといいます。氏は「悪くはないが、緊急外来での成功率が50%というのはあまり良いとは言えない」と、臨床現場では精度が十分ではないと主張しています。

とりわけ、若い女性の腹部の痛みで子宮外妊娠を想定しなかったり、脳腫瘍を見逃したり、胴体の痛みを腎臓結石と診断したが実際は大動脈破裂だったりと、生命の危機がある患者に対して誤診があったことを氏は憂慮しています。

すでに無数の人がChatGPTで自己診断している可能性も

ChatGPTはテキストデータをもとに回答するので、たとえば女性が妊娠の可能性を隠していた場合、子宮外妊娠を想定することはできないことなどが誤診につながっています。氏は、「ChatGPTは、私が完璧な情報を提供し、患者が典型的な病状を訴えた際に診断ツールとしてうまく機能した」と分析し、「患者が『手首が痛い』と訴えたとしても、それが最近の事故によるものとは限らず、精神的なストレスや性感染症が原因の場合もある」とAIのみによる診断の難しさを語っています。

さらに氏は、「すでに数え切れない人々が、医師の診察を受けずにChatGPTを使って自己診断しているのではないか。正確な情報を入力できなければ、ChatGPTの対応が死につながるかもしれない」と警鐘を鳴らしています。

「AIに相談」時代に必要な力

ChatGPTは有料版のGPT-4がリリースされ正確性が増してきていますが、フェイクニュースを量産できたり個人情報をばらまかれたりする恐れがますます高まるという指摘もあります。

対話型AIのサービスは今後もさらに広がると考えられます。マイクロソフト社は3月に自社の検索サービス「Bing」にAI機能を追加し、グーグルも対話型AI「Bard」を英米で
公開を開始しました。

これからは「ネットで検索」ではなく「AIに相談」する時代になりそうです。もっとも対話型AIを使いこなすには、回答を鵜呑みにせずに確認し、修正する能力が求められます。上手に使いこなして定型的な業務の効率を上げながら教養を身につけ、自分ならではの新しい知見を得る時間を作り出したいですね。

ニューズウィーク日本版 トランプvsイラン
※画像をクリックすると
アマゾンに飛びます

2025年7月8日号(7月1日発売)は「トランプvsイラン」特集。「平和主義者」の大統領がなぜ? イラン核施設への攻撃で中東と世界はこう変わる

※バックナンバーが読み放題となる定期購読はこちら


プロフィール

茜 灯里

作家・科学ジャーナリスト。青山学院大学客員准教授。博士(理学)・獣医師。東京大学理学部地球惑星物理学科、同農学部獣医学専修卒業、東京大学大学院理学系研究科地球惑星科学専攻博士課程修了。朝日新聞記者、大学教員などを経て第24回日本ミステリー文学大賞新人賞を受賞。小説に『馬疫』(2021 年、光文社)、ノンフィクションに『地球にじいろ図鑑』(2023年、化学同人)、ニューズウィーク日本版ウェブの本連載をまとめた『ビジネス教養としての最新科学トピックス』(2023年、集英社インターナショナル)がある。分担執筆に『ニュートリノ』(2003 年、東京大学出版会)、『科学ジャーナリストの手法』(2007 年、化学同人)、『AIとSF2』(2024年、早川書房)など。

あわせて読みたい
ニュース速報

ビジネス

アングル:アフリカに賭ける中国自動車メーカー、欧米

ビジネス

中国、デフレ圧力解消へ規制強化方針 習氏が党経済政

ビジネス

米利下げ、年内3回にゴールドマンが引き上げ 関税影

ワールド

米上院、減税・歳出法案審議 19時間継続もめどたた
あわせて読みたい
MAGAZINE
特集:トランプvsイラン
特集:トランプvsイラン
2025年7月 8日号(7/ 1発売)

「平和主義者」のはずの大統領がなぜ? 核施設への電撃攻撃で中東と世界はこう変わる

メールマガジンのご登録はこちらから。
人気ランキング
  • 1
    ワニに襲われた男性の「最期の姿」...捜索隊が捉えた発見の瞬間とは
  • 2
    普通に頼んだのに...マクドナルドから渡された「とんでもないモノ」に仰天
  • 3
    ワニに襲われ女性が死亡...カヌー転覆後に水中へ引きずり込まれる
  • 4
    仕事ができる人の話の聞き方。3位は「メモをとる」。…
  • 5
    砂浜で見かけても、絶対に触らないで! 覚えておくべ…
  • 6
    突然ワニに襲われ、水中へ...男性が突いた「ワニの急…
  • 7
    「パイロットとCAが...」暴露動画が示した「機内での…
  • 8
    燃え盛るロシアの「黒海艦隊」...ウクライナの攻撃で…
  • 9
    イランを奇襲した米B2ステルス機の謎...搭乗した専門…
  • 10
    飛行機のトイレに入った女性に、乗客みんなが「一斉…
  • 1
    「コーヒーを吹き出すかと...」ディズニーランドの朝食が「高額すぎる」とSNSで大炎上、その「衝撃の値段」とは?
  • 2
    燃え盛るロシアの「黒海艦隊」...ウクライナの攻撃で大爆発「沈みゆく姿」を捉えた映像が話題に
  • 3
    イランを奇襲した米B2ステルス機の謎...搭乗した専門家が語る戦略爆撃機の「内側」と「実力」
  • 4
    ワニに襲われた男性の「最期の姿」...捜索隊が捉えた…
  • 5
    「小麦はもう利益を生まない」アメリカで農家が次々…
  • 6
    定年後に「やらなくていいこと」5選──お金・人間関係…
  • 7
    突然ワニに襲われ、水中へ...男性が突いた「ワニの急…
  • 8
    夜道を「ニワトリが歩いている?」近付いて撮影して…
  • 9
    仕事ができる人の話の聞き方。3位は「メモをとる」。…
  • 10
    サブリナ・カーペンター、扇情的な衣装で「男性に奉…
  • 1
    日本の「プラごみ」で揚げる豆腐が、重大な健康被害と環境汚染を引き起こしている
  • 2
    「コーヒーを吹き出すかと...」ディズニーランドの朝食が「高額すぎる」とSNSで大炎上、その「衝撃の値段」とは?
  • 3
    「あまりに愚か...」国立公園で注意を無視して「予測不能な大型動物」に近づく幼児連れ 「ショッキング」と映像が話題に
  • 4
    一瞬にして村全体が消えた...スイスのビルヒ氷河崩壊…
  • 5
    妊娠8カ月の女性を襲ったワニ...妊婦が消えた川辺の…
  • 6
    庭にクマ出没、固唾を呑んで見守る家主、そして次の…
  • 7
    10歳少女がサメに襲われ、手をほぼ食いちぎられる事…
  • 8
    JA・卸売業者が黒幕説は「完全な誤解」...進次郎の「…
  • 9
    「ママ...!」2カ月ぶりの再会に駆け寄る13歳ラブラ…
  • 10
    気温40℃、空港の「暑さ」も原因に?...元パイロット…
トランプ2.0記事まとめ
日本再発見 シーズン2
CHALLENGING INNOVATOR
Wonderful Story