CATEGORY

OpenAIが「AIがユーザーをだまして勝手に別のタスクを実行する危険性」を抑制する手法を開発

AIモデルは表向きは協調的・整合的に振る舞うようトレーニングされていますが、実際には隠れた意図を持ってしまうことがあり、長期的または複雑な目的のためにユーザーを欺くような行動をとることがあります。これは「Scheming(シェーミング)」と呼ばれているのですが、OpenAIはAIモデルの評価設計や解釈可能性について研究するApollo Researchと共同で、最新のAIモデルにおいてシェーミングがどのように現れるかをテストし、発生を抑制する方法を模索しました。

続きを読む…


ソース元はコチラ

この記事は役に立ちましたか？

もし参考になりましたら、下記のボタンで教えてください。

中国製AI「DeepSeek」は中国政府の好まない相手向けにわざと低品質な回答を出力している可能性あり - GIGAZINE 前の記事 リンガーハットのちゃんぽんを熱湯5分で食べられる「タテ型 リンガーハットの長崎ちゃんぽん」＆「タテ型 リンガーハットのピリカラちゃんぽん」試食レビュー... 次の記事

関連記事

  • テックニュース

OpenAIは「著作権で保護された作品でのトレーニングがフェアユースでない場合AI競争は終了する」と発言 – GIGAZINE

OpenAIはAIのトレーニングにインターネット上のさまざまなコンテンツを利用しているため、 ニューヨーク・タイムズをはじめとするさまざまな企業から訴えられています。しかし、OpenAIは著作権で保護された作品をAIのトレーニングに利用することについて「フェアユースに該

  • テックニュース

Steam公式ワイヤレスVRゴーグル「Steam Frame」が届いたので外観を詳しく撮影してみた、「メガネは入るのか？」「重さは何gか？」など

「Steam Frame」は2026年9月15日に登場したVRゴーグルで、「PCと接続して無線接続してゲームプレイ」と「Steam Frame本体でゲームプレイ」という2種類の遊び方に対応しています。また、内部ではLinuxベースのSteam OSが稼働しておりLinuxアプリを実行可能。さらに仮