CATEGORY

AIの「攻撃的なタスクをこっそり実行する能力」を測定する仕組みをAnthropicが開発、悪意あるAIモデルによる妨害工作を未然に防ぐことを目指す

AIの能力向上に伴って、AIが「ユーザーから隠れて命令とは別の攻撃的なタスクを実行する」という行為に及ぶリスクも増しています。そんなAIによる妨害工作(サボタージュ)のリスクを測定するシステム「SHADE-Arena」をAI開発企業のAnthropicが発表し、同時に各種AIモデルを対象とした妨害工作能力テストの結果も公開しました。

続きを読む…


ソース元はコチラ

この記事は役に立ちましたか？

もし参考になりましたら、下記のボタンで教えてください。

小春六花がPCの画面上に居座って60種以上の録り下ろしボイスで応援してくれる「Desktop Mate 小春六花 DLC」はこんな感じ、夏服と冬服を切り替え可能で「例の... 前の記事 トランプ大統領の一族企業が金ピカのアメリカ産スマホを5Gで使い放題な「Trump Mobile」を発表 次の記事

関連記事

  • テックニュース

フロム・ソフトウェアの対戦ロボットゲーム「クロムハウンズ」がエミュレーターで15年ぶりにオンラインに、無職になってクロムハウンズ復活に全力投球した制作者が裏話を語る – GIGAZINE

ロボットアクションシューティングゲームの「クロムハウンズ」は、2022年のGame of the Yearを受賞した「ELDEN RING(エルデンリング)」などで知られるフロム・ソフトウェアが開発し、2006年6月29日に発売したXbox 360用ゲームです。2010

  • テックニュース

Googleが「Material 3 Expressive」デザインをAndroid 16／Wear OS 6向けに発表、Material Youの導入から約4年ぶりのデザイン変更

2025年5月13日、GoogleがAndroid向けUXデザインの「Material 3 Expressive」を発表しました。これはAndroid OSのアイコンやツールバー、ボタンなどのデザインに統一性を持たせるためのデザイン基準で「感情に訴えかけるUX」を実現するとのことです。続きを読む.

  • テックニュース

Pixel 10に噂のGoogle AIアシスタント「Pixie」がついに実装か、「Pixel Sense」という名前でアプリのデータを読み取りユーザー補助機能を提供 – GIGAZINE

2023年にその存在がうわさされ、「Pixel 9」と一緒に登場するはずが日の目を見なかったGoogleのAIアシスタント「Pixie」が、「Pixel Sense」と名前を変えてPixel 10に実装される可能性があると伝えられました。Google’s rumored