OpenAIがChatGPTに18歳未満のユーザーを自動で検知する機能を搭載すると発表、サム・アルトマンCEOいわく「10代のユーザーであればプライバシーより安全を優先」 – GIGAZINE

OpenAIのサム・アルトマンCEOは、ChatGPTが18歳未満のユーザーとやりとりする方法を大幅に変更するという制約を含む、新しいユーザーポリシーを発表しました。アルトマンCEOは「私たちは10代の若者のプライバシーと自由よりも、安全を優先します」と述べています。

Teen safety, freedom, and privacy | OpenAI
https://openai.com/index/teen-safety-freedom-and-privacy/

Building towards age prediction | OpenAI
https://openai.com/index/building-towards-age-prediction/

OpenAI will apply new restrictions to ChatGPT users under 18 | TechCrunch
https://techcrunch.com/2025/09/16/openai-will-apply-new-restrictions-to-chatgpt-users-under-18/

2025年8月、「ChatGPTが子どもの自殺を助長した」として遺族がOpenAIを提訴しました。こうした問題を受け、OpenAIは「危機的状況にある人々への支援拡大」「緊急サービスへの連絡や専門家の助けを容易に得られるように」「信頼できる連絡先への接続を有効に」「10代の若者の保護を強化」という4つの重点分野を発表。2025年の年末までに対応施策を導入するために、集中的な努力を行っていることを明らかにしました。

そして2025年9月上旬、OpenAIはティーンエイジャーや精神的に苦しみを抱えた人がChatGPTを安心して利用できるよう、2025年末までにガードレールを導入予定であることを発表しました。

OpenAIがChatGPTにペアレンタルコントロール機能を搭載する方針を発表 – GIGAZINE

アルトマンCEOはOpenAIの公式ブログで、「私たちの原則の中には互いに対立するものがあり、ここでは10代の安全性、自由、そしてプライバシーの間の緊張関係について、私たちが下している決定を説明したいと思います」と語り、以下のように述べています。

「(第一の原則として)AIの利用におけるプライバシーの権利が保護されることは、私たちにとっても社会にとっても極めて重要です。人々はますます個人的な事柄をAIに話すようになっており、これは前世代の技術とは異なります。私たちは、その情報が秘匿特権を与えられ、より高いレベルの保護を提供されることが社会の最大の利益になると信じています。人々がデリケートな質問や個人的な懸念のためにますます頼るようになっているAIとの会話にも、同レベルの保護が適用される必要があると考えています。私たちはこの点を政策立案者に提唱しています。私たちは、OpenAIの従業員からでさえもユーザーのデータがプライベートに保たれるよう、高度なセキュリティ機能を開発しています。他のカテゴリーの秘匿特権と同様に、特定の例外が存在します。例えば、自動化システムが深刻な悪用の可能性を監視し、誰かの生命への脅威、他者への加害計画、あるいは大規模なサイバーセキュリティインシデントのような社会規模の危害といった最も重大なリスクは、人間のレビューのためにエスカレーションされる可能性があります」

「第二の原則は自由に関するものです。私たちは、ユーザーが非常に広範な安全性の範囲内で、自分の望む方法で私たちのツールを使えるようにしたいと考えています。私たちのモデルがより制御可能になるにつれて、ユーザーの自由を時間をかけて拡大するよう取り組んできました。例えば、私たちのモデルのデフォルトの挙動では、思わせぶりな会話はあまり行われませんが、成人のユーザーがそれを求めれば、応じるべきです。より難しい例を挙げると、モデルはデフォルトでは自殺の方法に関する指示を提供すべきではありませんが、成人のユーザーが自殺を描写するフィクションの執筆協力を求めている場合、モデルはそのリクエストに応じるべきです。『成人のユーザーは大人として扱う』というのが、この件に関する私たちの社内での表現であり、他者に危害を加えたり、他者の自由を損なったりすることなく、可能な限り自由を拡大するという考えです」

by TechCrunch

そして、アルトマンCEOは「第三の原則は10代の保護についてです。私たちは10代のユーザーに対して、プライバシーや自由よりも安全性を優先します。これは新しく強力な技術であり、未成年者には十分な保護が必要だと考えています」と述べました。

具体的な対策として、10代のユーザー向けのChatGPTは「求められても思わせぶりな会話を行ったり、たとえ創作の文脈であっても自殺や自傷行為に関する議論に応じたりしないようトレーニングされる」ことが挙げられています。さらに、OpenAIは「ChatGPTの利用状況に基づいて年齢を推定する年齢予測システム」を構築しており、18歳未満のユーザーとそうでないユーザーを区別し、もしユーザーの年齢が疑わしい場合は、安全を期して18歳未満向けのエクスペリエンスがデフォルトになるとのこと。また、一部のケースや国では、身分証明書の提示を求めることもあるそうです。

アルトマンCEOは「これが成人のユーザーにとってプライバシーの妥協を強いるものであることは承知していますが、価値のあるトレードオフだと考えています」と述べました。