CATEGORY

チャットAIを守るために危険な会話を強制終了する機能がClaudeに追加される

Anthropicが、自社の大規模言語モデルであるClaude Opus 4および4.1に、会話を終了させる機能を新たに導入したと発表しました。この機能は通常の利用では作動せず、極端に有害または虐待的なやり取りが執拗に続く場合にのみ発動します。

続きを読む…


ソース元はコチラ

この記事は役に立ちましたか？

もし参考になりましたら、下記のボタンで教えてください。

OpenAIに「GPT-4oの温かみを返して」という意見が殺到しGPT-5の性格が変更されることに - GIGAZINE 前の記事 Steamクライアントに「タスクマネージャーよりも正確」だというパフォーマンス監視ツールが導入される予定 - GIGAZINE 次の記事

関連記事

  • テックニュース

たった3時間の睡眠で健康を保てる「ショートスリーパー」の遺伝子が判明 – GIGAZINE

人は最低でも7時間は寝ないと健康を保てないと言われていますが、毎日7時間も寝ると自由時間がほとんどなくなるので、充実した生活と十分な睡眠時間のバランスをとることは至難の業です。忙しい現代人にとってはうらやましいことに、1日3～6時間程度の睡眠でも問題ない人もいますが、そのような体質にはある遺伝子

  • テックニュース

トランプ政権が半導体メーカーに対し輸入量と同量の半導体をアメリカで生産することを義務付けて従わない場合は関税を課すことを検討 – GIGAZINE

2025年09月29日 11時54分 メモ ドナルド・トランプ政権が、輸入する半導体と同量の半導体を国内で製造することを半導体メーカーに義務づける1：1ルールを導入する予定だと報じられました。アメリカの国内製造を促進する狙いがあるとみられています。

  • テックニュース

ChatGPTの会話内容をGoogleなどの検索エンジンでインデックス化する機能がテストされるも短期間で削除される

ChatGPTではチャット内容をそのまま共有できる「Shared Links」という機能があります。Shared Linksのオプションとして、ユーザーが自ら設定したときのみチャット内容をGoogleなどの検索エンジンで検索可能にする機能をテストしていましたが、OpenAIは「ユーザーが意図しない

  • テックニュース

大阪・関西万博では何を食べられるのか？「ロボットが作ってくれるミックスジュース」「片手で食べられる海苔弁」「SPY×FAMILY」などを大阪ヘルスケアパビリオンで見てきた – GIGAZINE

2025年03月23日 15時28分 取材 大阪・関西万博の開催日まであと1カ月を切っていますが、「具体的にどんなことができるのかが分からない」と感じている人も多いはず。そこで、国内パビリオンのひとつである大阪ヘルスケアパビリオンの内覧会に参加して

  • テックニュース

【無料コード配布中】AIが画像や写真の背景をうまく透明化してくれる「Aiarty Image Matting」使ってみたレビュー、商品画像やポートレート写真にピッタリでお役立ち – GIGAZINE

2025年03月14日 09時00分 広告 商品画像やポートレート写真、動物写真、イラスト素材、ロゴ画像などの背景をほぼ完璧に透過してしまうという、AIを活用したソフトウェアが「Aiarty Image Matting」です。32万枚の4K画像からな