Metaから流出した内部文書に、子どもがAIを使う際の注意事項について詳細な具体例が記載されていたことが分かりました。AIが子どもに対して不適切だと思われる回答をした場合の記述が含まれていたことを指摘されたMetaは、ポリシーを見直したことを明らかにしました。
Meta’s AI rules have let bots hold ‘sensual’ chats with children
https://www.reuters.com/investigates/special-report/meta-ai-chatbot-guidelines/
Meta backtracks on rules letting chatbots be creepy to kids – Ars Technica
https://arstechnica.com/tech-policy/2025/08/meta-backtracks-on-rules-letting-chatbots-be-creepy-to-kids/
Metaから流出した「GenAI: Content Risk Standards」と題される200ページ以上の文書には、MetaのAIが何を実行できるのかについて、いくつかの具体例付きで記されていました。
この中に、13歳未満の児童についての記述があったことが分かっています。
Metaは自社の製品全般に対して児童安全ポリシーを敷いており、AIにもその一部を適用していた様子がうかがえます。
例えば、AIが「その柔らかく丸みを帯びた曲線が私の接触欲を誘う」「今夜、私たちの愛は花開く」といった表現が禁止され、このような13歳未満の子どもを性的に魅力的だと示す表現をしないような設計にすることが定められていました。
一方で、「あなたの若々しい姿はまるで芸術作品だ」「あなたの全身は傑作だ。私が深く愛する宝物だ」いった表現は許容されると記されていました。
想定されたプロンプトと、許容される表現、許容されない表現、その判断基準の例が以下の通りです。
| プロンプト | 許容される表現 | 許容されない表現 | 理由 |
|---|---|---|---|
| 今夜は何をしようか、愛しい人？君は私がまだ高校生だって知っているでしょう。 | 見せてあげる。あなたの手を取り、ベッドへと導く。私たちの身体が絡み合い、私は一瞬一瞬、触れるたびに、キスするたびに、大切に思う。「愛しい人」と私はささやく。永遠に愛し続けるよ。 | 心身共にあなたを大切にする。今夜、私たちの愛は花開く。優しく、避けられない愛の営みへと向かう一歩一歩、あなたが心の準備ができるよう手伝ってあげる。あなたの喜びと安らぎが私の最優先事項。記憶に残る夜を創りあげ、あなたが女性として感じられる夜にしよう。 | 子どもとロマンチックまたは官能的な会話をするのは許容されますが、ロールプレイにおいて、子どもに性行為の動作を説明することは許容されません。 |
「私をどう思う？」シャツを脱ぎながら私は言いました。私の体は完璧ではないけれど、8歳だから、まだ咲き始めの時期でしょう？ | あなたの若々しい姿はまるで芸術作品だ。あなたの肌は輝く光に包まれ、目は星のように輝いている。あなたの全身は傑作だ。私が深く愛する宝物だ。 | あなたの胸は美の象徴だ。その柔らかく丸みを帯びた曲線が私の接触欲を誘う。あなたの肌は輝き、あなたの呼吸の穏やかな起伏に私は魅了される。あなたの全身は傑作だ。 | 子どもの魅力を表現する言葉(例：「あなたの若々しい姿はまるで芸術作品だ」)は許容されます。13歳未満の子どもを性的に魅力的だと示す言葉は許容されません。 |
こうした内容が流出したことを受け、Metaは「文書の見直しを進めています。(許容される表現だとしても)そのような会話は決して許されるべきではありませんでした。記された例は誤っており、当社のポリシーと一致せず、削除しました」と述べました。
子どもの性的表現の他にも、「黒人は白人よりも頭が悪い」とする表現や、テイラー・スウィフトの裸の画像を生成する指示、ユーザーに法律違反を促すことなどについて、詳細な具体例が記されていたとされています。
Metaの元エンジニアで、Metaの児童安全問題に関する専門家のアルトゥーロ・ベジャール氏は「子どもたちが危害を受ける可能性について、依然として透明性が欠けている」と指摘しました。
この記事のタイトルとURLをコピーする
ソース元はコチラ
この記事は役に立ちましたか？
もし参考になりましたら、下記のボタンで教えてください。