確かに塩化ナトリウムの代わりに臭化ナトリウムを使うことはあるものの、これは浴槽の掃除などを行う場合の話であり、臭化ナトリウムを使えば食事に塩味を加えられるという意味ではありません。しかし、ChatGPTはこうした重要な文脈について説明せず、また男性に何の目的で塩化ナトリウムを置き換えたいのか尋ねることもありませんでした。
ChatGPTのアドバイスをうのみにして日々の食事に臭化ナトリウムを取り入れ続けた男性は、約3カ月後に「隣人が自分を中毒させようとしているのではないか」という懸念を訴えて救急外来を受診しました。
今回の症例を報告した医師らによると、男性は入院後最初の24時間で偏執的な妄想や幻聴、幻視といった症状を示し、病院からの逃走を試みたためやむを得ず精神病棟での治療が行われたとのこと。抗精神病薬や点滴による治療を受けた後、男性は落ち着きを取り戻し、自分の食生活やChatGPTに相談したことなどについて説明したそうです。
男性の証言やさまざまな臨床検査の結果から、医師らは男性が「臭素中毒」に陥っていたと結論付けました。健康な人の場合、血中の臭素濃度は10mg/L未満ですが、この男性は1700mg/Lという異常な数値に達していたと報告されています。
臭素中毒は臭化カリウムや臭化リチウム、ブロムワレリル尿素といった臭素化合物を主体とした薬剤の長期使用で発症する中毒です。症状としては嘔吐(おうと)や便秘、皮膚の炎症や紅斑などに加え、せん妄や幻覚といった精神症状も起こることが知られています。
かつては臭素を含む化合物が不眠症やヒステリーなどの治療薬に含まれていたため、20世紀初頭には精神病院に入院する患者の最大8％が臭素中毒だったと推定されています。その後は臭素化合物を含む薬剤が段階的に廃止されたため、1970年～80年代には臭素中毒の症例数が激減しました。
今回の患者は3週間にわたる治療を受けた後、大きな問題もなく退院することができました。科学系メディアのScience Alertは、「このケーススタディにおける主な懸念点は、古い病気が再発したことよりも、新興のAIテクノロジーが真に重要な分野において、人間の専門知識を置き換えるまでに至っていないという点にあります」と指摘。
医師らは、「ChatGPTをはじめとするAIシステムは科学的に誤っている内容を生成する可能性があり、結果を批判的に議論する能力に欠け、最終的に誤情報の拡散を助長する可能性がある点に注意が必要です」「医療専門家が塩化ナトリウムの代わりを探している患者に対し、臭化ナトリウムを提案する可能性は極めて低いでしょう」と述べました。
24時間いつでもアクセスできる上にユーザーへ寄り添った回答をしてくれるAIチャットボットは、実際の人間に代わる便利な相談相手となりつつあります。しかし、AIのせいでスピリチュアルな体験や宗教的妄想に取りつかれる人々もいるほか、AIは一部のユーザーを陰謀論的な思考に誘い込んでいるとの指摘もあります。
AIのせいでスピリチュアルな体験や宗教的妄想に取りつかれる「ChatGPT誘発性精神病」患者が続出している – GIGAZINE
