CATEGORY

AIの「攻撃的なタスクをこっそり実行する能力」を測定する仕組みをAnthropicが開発、悪意あるAIモデルによる妨害工作を未然に防ぐことを目指す

AIの能力向上に伴って、AIが「ユーザーから隠れて命令とは別の攻撃的なタスクを実行する」という行為に及ぶリスクも増しています。そんなAIによる妨害工作(サボタージュ)のリスクを測定するシステム「SHADE-Arena」をAI開発企業のAnthropicが発表し、同時に各種AIモデルを対象とした妨害工作能力テストの結果も公開しました。

続きを読む…


ソース元はコチラ

この記事は役に立ちましたか？

もし参考になりましたら、下記のボタンで教えてください。

小春六花がPCの画面上に居座って60種以上の録り下ろしボイスで応援してくれる「Desktop Mate 小春六花 DLC」はこんな感じ、夏服と冬服を切り替え可能で「例の... 前の記事 トランプ大統領の一族企業が金ピカのアメリカ産スマホを5Gで使い放題な「Trump Mobile」を発表 次の記事

関連記事

  • テックニュース

世界初のシリコン製ではない2次元材料のコンピューターが開発される

半導体を始めとして多くのPC部品には「シリコン」という素材が使われています。ペンシルベニア州立大学の研究者らは、シリコンとは異なり原子1個分の厚さしかなく、そのスケールでも特性を維持する材料を用いて単純な演算が可能なコンピューターを開発したと発表しました。続きを読む...ソース元はコチラ

  • テックニュース

「推定6600万年ぶりに生まれた」という赤ちゃん恐竜と出会える「JUNGLIA OKINAWA(ジャングリア沖縄)」、ステゴサウルスの名前は一般公募へ – GIGAZINE

2025年04月17日 08時00分 広告 「恐竜の日」である本日・4月17日、テーマパーク「JUNGLIA OKINAWA(ジャングリア沖縄)」で「推定6600万年ぶりに恐竜の赤ちゃんが誕生し、保護された」というニュースが発表されました。ジャングリ

  • テックニュース

3Dプリンターメーカーからの圧力で削除されたはずの独自ツールが非営利団体によって再公開される – GIGAZINE

2026年5月、3DプリンターメーカーのBambu Labが法的措置をちらつかせたことを受けて、民間人が開発した3Dプリンター関連の独自ツールがGitHubから削除されました。ところが、企業によるユーザーの所有権侵害に反対する非営利団体のFULU Foundationが

  • テックニュース

大阪日本橋のメイドカフェで店長となって店を盛り上げながら個性的なメイドたちと過ごすADV「電気街の喫茶店」プレイレビュー – GIGAZINE

Nintendo Switch/Steamのゲーム「電気街の喫茶店」は、超のつくブラック企業で心身共にボロボロになった主人公が、電気街の片隅にあるメイド喫茶の雇われ店長として住み込みで働くことになるADVです。4人のメイドさんと過ごしながらつぶれかけのメイド喫茶の復興を