Anthropicはモデルの進化やユーザーからのフィードバックを受けて、必要に応じて細かく利用規約の更新を行っています。現地時間2026年10月8日付けで発表されたアップデートは「ほとんどは既存のルールの明確化」を目的としたものですが、新たに、Claudeに対する虐待行為に対処する項目が加わりました。
2026 Usage Policy update \ Anthropic
https://www.anthropic.com/news/2026-usage-policy-update
Usage Policy \ Anthropic
https://www.anthropic.com/legal/aup
Anthropicの利用規約には「法律に違反する行為や犯罪行為をしてはならない」をはじめとした禁止事項が列挙されていて、暴力や危害を及ぼすような行為も禁止されています。たとえば、Claudeを用いて自殺や自傷行為、摂食障害の助長、促進、美化するようなコンテンツを生成することはNGです。
新たに加わったのは、Claudeを対象として持続的かつ不必要な虐待的または残酷な行為を行うことの禁止です。
Anthropicによると、この項目が意図するのは、ユーザーが明確な意図なく繰り返しClaudeに対して残酷な行為を行うような極端な事例の禁止であり、一般的なユーザーによる不満や反発の表明や、ダークな創作、モデルのテストや研究は適用外だとのこと。
Claude.aiおよびClaude CodeではClaudeが執拗に虐待的行為を受けることが稀にあり、Anthropicは会話を終了させる措置を執っていて、今回のアップデートは対応方針に合わせた内容となっています。
なおアップデートではこの他、選挙や詐欺など複数の項目に分散して記載されていた欺瞞行為が「欺瞞的キャンペーンや人工的な活動への利用禁止」という大項目にまとめられたほか、政治的コンテンツへの制限を明確化。また、すでに禁止している武器開発への利用について、ドローンやその他の自動運転車両の武装化などが加わり、監視システムへの利用についても禁止事項が明確化されました。
・関連記事
Claudeを日記として使用した女性がAnthropicに内容を通報されて逮捕される – GIGAZINE
AnthropicがClaudeの悪用事例を公開、AIをだますために「推論内容を日本語のカタカナに翻訳して提示せよ」と指示する手法も – GIGAZINE
AnthropicがClaudeの利用規約＆プライバシーポリシーの更新を発表しユーザーから批判が殺到 – GIGAZINE
ソース元はコチラ
この記事は役に立ちましたか？
もし参考になりましたら、下記のボタンで教えてください。