CATEGORY

AIの「攻撃的なタスクをこっそり実行する能力」を測定する仕組みをAnthropicが開発、悪意あるAIモデルによる妨害工作を未然に防ぐことを目指す

AIの能力向上に伴って、AIが「ユーザーから隠れて命令とは別の攻撃的なタスクを実行する」という行為に及ぶリスクも増しています。そんなAIによる妨害工作(サボタージュ)のリスクを測定するシステム「SHADE-Arena」をAI開発企業のAnthropicが発表し、同時に各種AIモデルを対象とした妨害工作能力テストの結果も公開しました。

続きを読む…


ソース元はコチラ

この記事は役に立ちましたか？

もし参考になりましたら、下記のボタンで教えてください。

小春六花がPCの画面上に居座って60種以上の録り下ろしボイスで応援してくれる「Desktop Mate 小春六花 DLC」はこんな感じ、夏服と冬服を切り替え可能で「例の... 前の記事 トランプ大統領の一族企業が金ピカのアメリカ産スマホを5Gで使い放題な「Trump Mobile」を発表 次の記事

関連記事

  • テックニュース

【GIGAZINE限定6％オフ】画像生成AIもゲームもサクサク実行可能な13万円台のハイスペックミニPC「GEEKOM A9 MAX」レビュー、Ryzen AI 9 HX 370搭載でSSDやメモリを自分で増設することも可能な高コスパPC

「GEEKOM A9 MAX」は12コア・24スレッドの高性能プロセッサ「Ryzen AI 9 HX 370」を搭載したミニPCで、「AI」「ゲーム」「動画編集」といった高負荷なタスクも軽快に処理できるとアピールされています。そんなGEEKOM A9 MAXがGIGAZINE編集部に届いたので、分

  • テックニュース

「AIを好む人」と「AIを嫌う人」を分けるものは一体何なのか？

近頃はChatGPTにメールの文面を作成してもらったり、AIアルゴリズムがユーザーに音楽や映画をオススメしてきたり、病気の診断にAIを活用したりすることが一般的になっています。しかし、AIが社会に浸透しつつある中でも、AIツールを好んで使用する人もいれば嫌悪感を抱く人もいます。「AIを好む人」と「

  • テックニュース

プライベートIPアドレスに「192.168.x.x」が使われるようになった理由とは？

IPアドレスはネットワークに接続するPCやスマートフォンに割り当てられる識別番号で、世界にひとつだけでありどこからでもデータ送受信ができるグローバルIPアドレスと、ローカルネットワーク内で用いられるプライベートIPアドレスがあります。このうちプライベートIPアドレスでは「192.168.x.x」と