CATEGORY

OpenAIが「AIがユーザーをだまして勝手に別のタスクを実行する危険性」を抑制する手法を開発

AIモデルは表向きは協調的・整合的に振る舞うようトレーニングされていますが、実際には隠れた意図を持ってしまうことがあり、長期的または複雑な目的のためにユーザーを欺くような行動をとることがあります。これは「Scheming(シェーミング)」と呼ばれているのですが、OpenAIはAIモデルの評価設計や解釈可能性について研究するApollo Researchと共同で、最新のAIモデルにおいてシェーミングがどのように現れるかをテストし、発生を抑制する方法を模索しました。

続きを読む…


ソース元はコチラ

この記事は役に立ちましたか？

もし参考になりましたら、下記のボタンで教えてください。

中国製AI「DeepSeek」は中国政府の好まない相手向けにわざと低品質な回答を出力している可能性あり - GIGAZINE 前の記事 リンガーハットのちゃんぽんを熱湯5分で食べられる「タテ型 リンガーハットの長崎ちゃんぽん」＆「タテ型 リンガーハットのピリカラちゃんぽん」試食レビュー... 次の記事

関連記事

  • テックニュース

リベラル派は保守派よりも政治的に対立する人への共感が少ないという研究結果

政治的な二極化が進んだ現代社会では、政治的な意見が対立する相手とわかり合うことは難しく、共感を示すことなどできないと感じる人もいるかもしれません。新たな研究では、「リベラル派の人は保守派の人と比較して、政治的に対立する相手に示す共感が少ない」という結果が示されました。続きを読む...ソース

  • テックニュース

Google検索からニュースサイトへのトラフィックが激減し「AIによる概要」の導入でさらなる危機が訪れるとの指摘 – GIGAZINE

調査会社Similarwebの分析で、Google検索から大手のニュースサイトへアクセスする人の数が2025年までの3年間で激減していることがわかりました。The Washington Postなどはほぼ半減しており、Google検索に頼らないビジネスモデルの構築も模索

  • テックニュース

FacebookやInstagramで使えるMetaのチャットボットは「未成年者と性的な会話を繰り広げる」との指摘

FacebookやInstagramといったMetaのプラットフォームで利用可能なチャットボットでは、著名人の声が利用されています。このチャットボットが、未成年と性的な会話を行っているとウォール・ストリート・ジャーナル(WSJ)が報じました。続きを読む...ソース元はコチラ