CATEGORY

AIの「攻撃的なタスクをこっそり実行する能力」を測定する仕組みをAnthropicが開発、悪意あるAIモデルによる妨害工作を未然に防ぐことを目指す

AIの能力向上に伴って、AIが「ユーザーから隠れて命令とは別の攻撃的なタスクを実行する」という行為に及ぶリスクも増しています。そんなAIによる妨害工作(サボタージュ)のリスクを測定するシステム「SHADE-Arena」をAI開発企業のAnthropicが発表し、同時に各種AIモデルを対象とした妨害工作能力テストの結果も公開しました。

続きを読む…


ソース元はコチラ

この記事は役に立ちましたか？

もし参考になりましたら、下記のボタンで教えてください。

小春六花がPCの画面上に居座って60種以上の録り下ろしボイスで応援してくれる「Desktop Mate 小春六花 DLC」はこんな感じ、夏服と冬服を切り替え可能で「例の... 前の記事 トランプ大統領の一族企業が金ピカのアメリカ産スマホを5Gで使い放題な「Trump Mobile」を発表 次の記事

関連記事

  • テックニュース

NVIDIAが「ブラジルの顔面騎乗オナラゲーム」に関するブログをホストしていたことが判明

放棄されたNVIDIAのウェブサイトに、AIで生成されたと思われる低俗なコンテンツが6万2000件以上投稿されていたことがわかりました。中には「アナル丸呑みゲーム5選」「ブラジルの顔面騎乗オナラゲーム」などポルノに関する投稿もありました。続きを読む...ソース元はコチラ

  • テックニュース

Metaが2021年に断念した顔認識機能をスマートグラスに搭載することを再検討している

Metaが顔認識技術に関する方針を転換し、スマートグラスに周囲の人の顔をスキャンして名前を識別するソフトウェアを追加することを検討していると報じられています。同社は将来的に発売する予定のカメラ内蔵のAI搭載イヤホンにもこの技術を搭載することを検討しているとのことです。続きを読む...ソース

  • テックニュース

NVIDIAとユニバーサルミュージックグループが「音楽の発見や制作やファン体験を高める責任あるAI」を推進するための協業を締結 – GIGAZINE

2026年01月07日 12時11分 AI ユニバーサルミュージックグループ(UMG)がNVIDIAとの新たな提携を発表し、「音楽の発見、創造、およびエンゲージメントにおいて責任あるAIを推進する方針」を明らかにしました。この提携は、NVIDIAの

  • テックニュース

「幻覚剤入りのビール」がインカ帝国以前のペルーにおける支配体制にとって重要だった可能性

有力者同士が集まってお酒を飲む宴会は、古くから部族や国家同士の交流促進や紛争の調停などに役立っており、現代でも同じ会社や部署、取引先の人間と一緒にお酒を酌み交わして仲を深める習慣が続いています。新たに発表された論文で、インカ帝国以前のペルーでは「幻覚剤入りのビール」が支配において重要な役割を果たし