CATEGORY

OpenAIが「AIがユーザーをだまして勝手に別のタスクを実行する危険性」を抑制する手法を開発

AIモデルは表向きは協調的・整合的に振る舞うようトレーニングされていますが、実際には隠れた意図を持ってしまうことがあり、長期的または複雑な目的のためにユーザーを欺くような行動をとることがあります。これは「Scheming(シェーミング)」と呼ばれているのですが、OpenAIはAIモデルの評価設計や解釈可能性について研究するApollo Researchと共同で、最新のAIモデルにおいてシェーミングがどのように現れるかをテストし、発生を抑制する方法を模索しました。

続きを読む…


ソース元はコチラ

この記事は役に立ちましたか？

もし参考になりましたら、下記のボタンで教えてください。

中国製AI「DeepSeek」は中国政府の好まない相手向けにわざと低品質な回答を出力している可能性あり - GIGAZINE 前の記事 リンガーハットのちゃんぽんを熱湯5分で食べられる「タテ型 リンガーハットの長崎ちゃんぽん」＆「タテ型 リンガーハットのピリカラちゃんぽん」試食レビュー... 次の記事

関連記事

  • テックニュース

Googleの「サイドローディングはなくならない」表明は明確・簡潔で嘘だとアプリストアのF-Droidが猛烈批判 – GIGAZINE

Googleが表明した「Androidのすべてのアプリ開発者の身元確認を行う」という方針について、代替アプリストアのF-Droidが反発している件で、Googleが追加で明らかにした「サイドローディングはなくならない」という言葉はまったくもって嘘だと、F-Droidが重

  • テックニュース

PCを使ったデジタルアート「デモシーン」がスウェーデンでユネスコの無形文化遺産に登録される – GIGAZINE

「デモ(メガデモ)」は主に1970～80年代のPCでリアルタイムに音楽や映像をレンダリングするプログラムのことで、デモを作成するグループやデモを見せ合うデモパーティーなどを総合した文化のことをデモシーンと呼びます。デジタルアートのサブカルチャーとして古くから人気を集めて

  • テックニュース

自動車関税の軽減に関する大統領令にトランプ大統領が署名、関税が完全に免除される「国産品が85％」を満たすのはテスラだけ

ドナルド・トランプ大統領が、アメリカで自動車を製造しているメーカーに対して関税を減免・免除する大統領令に署名しました。なお、自動車を構成する部品の85％が国産であれば関税は完全に免除されることになりますが、この条件を満たすのはテスラだけだとのことです。続きを読む...ソース元はコチラ