チャットAIとのやり取りで妄想にとりつかれてしまう「AI精神病」について専門家の見解は？ – GIGAZINE

フドン氏は、精神病患者は中立的な出来事に過剰な意味づけをする傾向があると指摘しています。たとえば、道行く人が何の気なしに振り返って偶然こちらを見ることはよくありますが、妄想にとりつかれている人はこれを「自分を監視するために振り返ったんだ」「あの人物は政府のエージェントだ」といった風に、過剰に自分と結びつけて考えてしまうというわけです。

チャットAIはその設計上、ユーザーの言葉に対する応答性が高く、内容の一貫性を保とうと試み、ユーザーの文脈を考慮した返答を生成します。これはほとんどのユーザーにとっては無害なものですが、妄想と客観的な現実を区別するのが難しい人ではゆがんだ解釈を意図せず強化してしまう可能性があります。フドン氏は、「精神病の初期段階にある人にとって、 これは不気味なほどに自己肯定感を高めるものとなるかもしれません」と懸念を示しています。

また、社会的孤立や孤独が精神病のリスクを高めるということも報告されています。チャットAIは短期的には孤独感を軽減してくれるかもしれませんが、使用時間が長くなるにつれて孤独感や問題的な使用傾向が高まる傾向があるとの研究結果もあります。

孤独な人はAIチャットボットを使うとさらに孤独感が増すことが研究で判明 – GIGAZINE

記事作成時点では、チャットAIが精神病を引き起こすという直接的な証拠はありませんが、感受性の高い一部の人々に対し、チャットAIが精神病の発症因子になったり妄想を強化したりすることが懸念されています。ソーシャルメディアのアルゴリズムに関する研究では、自動化システムが強化ループを通じて極端な信念を増幅させる仕組みが実証されており、チャットAIも同様のリスクをもたらす可能性があるとのこと。

また、そもそもAI開発者のほとんどが重度の精神疾患を考慮してシステム設計をしていない点にも注意が必要です。チャットAIに備えられたユーザー保護機能は精神疾患ではなく、自傷行為や暴力などに焦点を当てる傾向があるため、メンタルヘルスに関する知識とAI導入のギャップが生じているとフドン氏は指摘しています。

メンタルヘルス的な観点からすると、特定の薬物や物質が精神疾患を持つ人にとって危険であるのと同様に、チャットAIとのやり取りにも注意が必要です。また、患者とチャットAIのやり取りを評価・対処する臨床ガイドラインや、AI開発者が負うべき注意義務や患者の妄想を助長した場合の責任の所在などについても議論する必要があります。

フドン氏は、「AIは消え去ることはありません。今こそ、メンタルヘルスの専門知識をAI設計に統合し、AI関連の経験に関する臨床リテラシーを高め、脆弱なユーザーが意図せず被害を受けないようにすることが課題です」と述べ、臨床医・研究者・倫理学者・技術者の連携が不可欠だと主張しました。