「ChatGPTヘルスケア」にプライベートな健康情報を入力すべきではないと専門家が指摘 – GIGAZINE

イリノイ大学アーバナ・シャンペーン校の法学教授であるサラ・ガーケ氏は、ほとんどの州では包括的なプライバシー法が制定されておらず、侵害や不正使用に対する保護策をほとんど持っていないことが多いと指摘しました。ChatGPTヘルスケアはデータ保護への取り組みを表明していますが、それは「特定の法律に厳格に準拠している」という意味ではなく、あくまでプライバシーポリシーや利用規約上の約束に基づくものにすぎないため、データ保護の根拠が保証されていないとガーケ氏は述べています。

スイスのバーゼル大学でデジタルヘルス法を研究するハンナ・ファン・コルフスホーテン氏は「ChatGPTは現在の利用規約で『データを機密情報として保持し、モデルのトレーニングには使用しない』と明記していますが、ユーザーは法律で保護されているわけではなく、利用規約は随時変更される可能性があります。最終的には、企業の約束を信じるしかないのが現状です」と説明しました。ハーバード大学ロースクールの臨床法学准教授であるカーメル・シャチャー氏も同様にOpenAIがいつでも規約を変更できることを指摘し、ChatGPTヘルスケアがアメリカの医療情報保護法(HIPAA)の適用を受けないことを警戒しています。

またプライバシー以外にも、AIの応答の正確性にも注意が必要です。チャットAIはしばしば誤情報や誤解を招く情報を回答しますが、健康や医療に関わる分野ではわずかな誤りが命に関わることもあります。実際にGoogle検索の「AIによる概要」では特定の健康関連検索クエリに対して誤解を招く情報を提供していることが明らかになったことで、健康関連の一部の検索クエリで「AIによる概要」を表示しなくなりました。

Googleが特定の健康関連検索クエリで「AIによる概要」を非表示に、誤解を招く情報を提供していたため – GIGAZINE

The Washington Postが報じた内容によると、ChatGPTヘルスケアにApple Watchの約10年分のデータを分析させ、その結果を専門家に確認してもらったところ、「根拠がなく医学的なアドバイスには値しない」と回答されたそうです。また、同じ質問を繰り返ししてみたところ、提供しているデータは同じなのに回答の度に健康評価スコアが「F」から「B」に変動するなど不安定だったことも指摘されています。

AIが間違った健康情報を患者に案内することを防ぐため、OpenAIは「ChatGPTヘルスケアはあくまで医師との緊密な連携をサポートするものであり、診断や治療を目的としたものではない」と明言しています。ガーケ氏によると、「医療機器を目的としたものではない」とOpenAIが主張することは規制当局に対して大きな意味を持ち、仮に利用者が医療目的で使用していたとしても、規制当局による厳格な監督の対象外になりやすいそうです。

しかし、OpenAIはChatGPTヘルスケアを「健康相談に役立つツール」としてプロモーションしており、そのプロモーションが利用者に誤解を与える可能性があるという指摘もあります。ファン・コルフスホーテン氏は「ChatGPTヘルスケアのようなツールが医療機器として分類され厳格な規制を受けるべきかどうかを問うのは至極当然のことです」と述べています。