CATEGORY

OpenAIが「AIがユーザーをだまして勝手に別のタスクを実行する危険性」を抑制する手法を開発

AIモデルは表向きは協調的・整合的に振る舞うようトレーニングされていますが、実際には隠れた意図を持ってしまうことがあり、長期的または複雑な目的のためにユーザーを欺くような行動をとることがあります。これは「Scheming(シェーミング)」と呼ばれているのですが、OpenAIはAIモデルの評価設計や解釈可能性について研究するApollo Researchと共同で、最新のAIモデルにおいてシェーミングがどのように現れるかをテストし、発生を抑制する方法を模索しました。

続きを読む…


ソース元はコチラ

この記事は役に立ちましたか？

もし参考になりましたら、下記のボタンで教えてください。

中国製AI「DeepSeek」は中国政府の好まない相手向けにわざと低品質な回答を出力している可能性あり - GIGAZINE 前の記事 リンガーハットのちゃんぽんを熱湯5分で食べられる「タテ型 リンガーハットの長崎ちゃんぽん」＆「タテ型 リンガーハットのピリカラちゃんぽん」試食レビュー... 次の記事

関連記事

  • テックニュース

トランプ大統領の演説がChatGPTを困惑させたとの研究結果、感情に訴えかける比喩表現の解釈に難あり

アメリカのドナルド・トランプ大統領が行った演説をChatGPT-4(GPT-4)を用いて分析した研究により、GPT-4のような大規模言語モデルには、トランプ大統領が多用する感情に訴えかける比喩表現の解釈に難があることがわかりました。続きを読む...ソース元はコチラ

  • テックニュース

「温かい風呂」につかることがマラソンランナーの走力を向上させるかもしれない

1日の終わりに温かい風呂につかり、疲れを取るのが日々の楽しみだという人もいるはず。学術誌のThe Journal of Physiologyに掲載された論文で、「温かい風呂につかることが長距離ランナーの走力を向上させる可能性がある」という興味深い研究結果が報告されました。続きを読む...ソ

  • テックニュース

土を耕しすぎると逆に土壌へ悪影響が及ぶ可能性があると地震学者らの実験で明らかに

一般的に野菜や作物の種をまく前には、農機具やトラクターなどで畑の土を耕すこと(耕起)が行われています。しかし、地震学者らが音波による土壌のモニタリングを行った結果、土を耕しすぎると逆に土壌へ悪影響が及ぶ可能性があると示唆されました。続きを読む...ソース元はコチラ