CATEGORY

OpenAIが「AIがユーザーをだまして勝手に別のタスクを実行する危険性」を抑制する手法を開発

AIモデルは表向きは協調的・整合的に振る舞うようトレーニングされていますが、実際には隠れた意図を持ってしまうことがあり、長期的または複雑な目的のためにユーザーを欺くような行動をとることがあります。これは「Scheming(シェーミング)」と呼ばれているのですが、OpenAIはAIモデルの評価設計や解釈可能性について研究するApollo Researchと共同で、最新のAIモデルにおいてシェーミングがどのように現れるかをテストし、発生を抑制する方法を模索しました。

続きを読む…


ソース元はコチラ

この記事は役に立ちましたか？

もし参考になりましたら、下記のボタンで教えてください。

中国製AI「DeepSeek」は中国政府の好まない相手向けにわざと低品質な回答を出力している可能性あり - GIGAZINE 前の記事 リンガーハットのちゃんぽんを熱湯5分で食べられる「タテ型 リンガーハットの長崎ちゃんぽん」＆「タテ型 リンガーハットのピリカラちゃんぽん」試食レビュー... 次の記事

関連記事

  • テックニュース

50年以上前の卓球ゲーム「ポン」そのものをニューラルネットワークでクローン化 – GIGAZINE

1972年に発売された卓球ゲーム「ポン」をニューラルネットワークを使ってクローンした「Neural Pong」が公開されています。この「Neural Pong」の画期的な点は、ニューラルネットワークがポンをプレイするのではなく、「ニューラルネットワーク自体がポンというゲ

  • テックニュース

「イスを占拠するネコをイライラさせてイスからどかすスピードラン」に挑戦するYouTubeチャンネルが登場

YouTubeチャンネルのGulliverは、飼いネコの「ガリバー」の動画を投稿しています。そんなYouTubeチャンネルの中で、飼い主のイスを占拠してくるガリバーをイスからどかすスピードランが実施されており、ガリバーと飼い主の戦いを見ることができます。続きを読む...ソース元はコチラ

  • テックニュース

Google検索責任者が「AI機能の導入後も検索クリックの総量は安定している」と主張するも具体的なデータはなし – GIGAZINE

Google検索には2024年5月から、ユーザーの入力内容に応じてウェブ上の情報をまとめた「AIによる概要」が表示されています。こうしたAI機能がウェブサイトへのトラフィックを減少させているという批判の声に対し、Googleの検索責任者であるリズ・リード氏が反論を行って

  • テックニュース

アラブ首長国連邦でイランのミサイル攻撃の投稿を共有したとして観光客含む21人が起訴される – GIGAZINE

2026年04月04日 08時00分 メモ アラブ首長国連邦(UAE)に対するイランの攻撃についての情報を共有したとして、観光でドバイを訪れていたイギリス人男性を含む21人が起訴されたことが分かりました。専門家は、投稿を再投稿したりコメントしたりし

  • テックニュース

コロンビーナやアイノなどナド・クライから加わった『原神』キャラクターたちをワンフェス2026[冬]で見てきた – GIGAZINE

2026年02月08日 20時42分 取材 七柱の神々が統治する7つの国々で構成される「テイワット」を舞台に、世界の外からやってきた「旅人」が双子の兄/妹を探して旅をしつつ様々な問題や出来事に関わっていくオープンワールドRPG『原神』から、最新バー