CATEGORY

OpenAIが「AIがユーザーをだまして勝手に別のタスクを実行する危険性」を抑制する手法を開発

AIモデルは表向きは協調的・整合的に振る舞うようトレーニングされていますが、実際には隠れた意図を持ってしまうことがあり、長期的または複雑な目的のためにユーザーを欺くような行動をとることがあります。これは「Scheming(シェーミング)」と呼ばれているのですが、OpenAIはAIモデルの評価設計や解釈可能性について研究するApollo Researchと共同で、最新のAIモデルにおいてシェーミングがどのように現れるかをテストし、発生を抑制する方法を模索しました。

続きを読む…


ソース元はコチラ

この記事は役に立ちましたか？

もし参考になりましたら、下記のボタンで教えてください。

中国製AI「DeepSeek」は中国政府の好まない相手向けにわざと低品質な回答を出力している可能性あり - GIGAZINE 前の記事 リンガーハットのちゃんぽんを熱湯5分で食べられる「タテ型 リンガーハットの長崎ちゃんぽん」＆「タテ型 リンガーハットのピリカラちゃんぽん」試食レビュー... 次の記事

関連記事

  • テックニュース

ドメインに発行されたすべての証明書を検索できる「CertRadar」 – GIGAZINE

公開鍵証明書は信頼された第三者機関である認証局(CA)から発行され、ウェブサイトの正当性を証明するために使用されています。しかし悪意のある攻撃者が正規のドメイン名に対して不正に証明書を取得することでフィッシングサイトや中間者攻撃に利用するケースも存在し、過去の事例では2

  • テックニュース

中国で国内に存在しないはずのAIチップ「H100」や「A100」の修理サービスが急増、アメリカの規制をすり抜けて流通している可能性 – GIGAZINE

中国への輸出が禁止されているNVIDIA製の高性能AI向け半導体「H100」等の修理サービスが、どういうわけか中国で誕生し始めています。ロイターの調べによると、約10社がすでに取り扱いを始めているとのことです。Nvidia AI chips: repair demand