CATEGORY

AIの「攻撃的なタスクをこっそり実行する能力」を測定する仕組みをAnthropicが開発、悪意あるAIモデルによる妨害工作を未然に防ぐことを目指す

AIの能力向上に伴って、AIが「ユーザーから隠れて命令とは別の攻撃的なタスクを実行する」という行為に及ぶリスクも増しています。そんなAIによる妨害工作(サボタージュ)のリスクを測定するシステム「SHADE-Arena」をAI開発企業のAnthropicが発表し、同時に各種AIモデルを対象とした妨害工作能力テストの結果も公開しました。

続きを読む…


ソース元はコチラ

この記事は役に立ちましたか？

もし参考になりましたら、下記のボタンで教えてください。

小春六花がPCの画面上に居座って60種以上の録り下ろしボイスで応援してくれる「Desktop Mate 小春六花 DLC」はこんな感じ、夏服と冬服を切り替え可能で「例の... 前の記事 トランプ大統領の一族企業が金ピカのアメリカ産スマホを5Gで使い放題な「Trump Mobile」を発表 次の記事

関連記事

  • テックニュース

1時間以内にフル充電できる90Wの急速充電器が付属する「Xiaomi 15」のバッテリー充電性能＆バッテリー持続時間を徹底検証してみたよレビュー – GIGAZINE

Xiaomi製スマートフォン「Xiaomi 15」には90W出力の充電アダプタが付属しており、大容量の出力でバッテリーを急速充電することができます。いったいどれほどのスピードでバッテリーを充電できるのか実際に確かめてみました。また、バッテリー持続時間の検証も実施したほか

  • テックニュース

ホテルチェーンを拡大しながらその株で自分の資産をどんどん増やしていく駆け引きが激アツな「アクワイア」プレイレビュー – GIGAZINE

1960年代に創案されたホテルチェーンの投資と合併をテーマにした「アクワイア」は、ルールをマイナーチェンジしながらも今もなおファンの多いボードゲームです。日本では、アークライトゲームズからボードやコマがプラスチック製の豪華仕様が日本語版としてリリースされており、2025

  • テックニュース

エレガントな「一体型デザイン」と「厚み半分」で無骨感ゼロになって性能は向上した「SwitchBotロックUltra」レビュー、爆速解錠の「FastUnlock」にSuicaやPASMO対応まで至れり尽くせりなスマートロックの最終進化形 – GIGAZINE

2025年05月07日 12時00分 広告 スマートロックを導入してみようと思ったものの、「いかにも取って付けたようなゴツゴツとした見た目がちょっと……」となって敬遠してしまった人は少なくないはず。「SwitchBotロックPro」から本体の厚さが約