CATEGORY

AIの「攻撃的なタスクをこっそり実行する能力」を測定する仕組みをAnthropicが開発、悪意あるAIモデルによる妨害工作を未然に防ぐことを目指す

AIの能力向上に伴って、AIが「ユーザーから隠れて命令とは別の攻撃的なタスクを実行する」という行為に及ぶリスクも増しています。そんなAIによる妨害工作(サボタージュ)のリスクを測定するシステム「SHADE-Arena」をAI開発企業のAnthropicが発表し、同時に各種AIモデルを対象とした妨害工作能力テストの結果も公開しました。

続きを読む…


ソース元はコチラ

この記事は役に立ちましたか？

もし参考になりましたら、下記のボタンで教えてください。

小春六花がPCの画面上に居座って60種以上の録り下ろしボイスで応援してくれる「Desktop Mate 小春六花 DLC」はこんな感じ、夏服と冬服を切り替え可能で「例の... 前の記事 トランプ大統領の一族企業が金ピカのアメリカ産スマホを5Gで使い放題な「Trump Mobile」を発表 次の記事

関連記事

  • テックニュース

小学生男子がフォートナイトをプレイすることは仲間との関係強化につながる可能性 – GIGAZINE

Epic Gamesが開発するオンラインバトルロイヤルアクションゲームの「フォートナイト」は、基本プレイ無料で幅広い世代から人気を集めています。小学生の男子がプレイするゲームの種類と社会的な影響を調べた研究では、フォートナイトなどのゲームをプレイすることが、仲間との関係

  • テックニュース

病気で声を失った女性が「雑音混じりのたった8秒のホームビデオ」からAIの力で25年ぶりに声を取り戻す – GIGAZINE

2025年08月25日 14時20分 動画 運動ニューロン疾患(MND)と診断されて声を出す能力を失ったイギリスの女性が、「雑音混じりのたった8秒のホームビデオ」の映像を元にAIの力で自分の声を取り戻し、25年ぶりに自分の声で話せるようになったと報

  • テックニュース

スポーツのパフォーマンスは「感情」に強く左右されるという指摘、心を無にして集中する方法とは？ – GIGAZINE

興奮や喜び、不安や悲しみといった感情は、スポーツのパフォーマンスを阻害する可能性があると、スポーツ心理学者のデビッド・ユーデルフ氏が解説しています。ユーデルフ氏によると、スポーツの世界ではコントロールできない要素に向き合う必要があり、コントロ

  • テックニュース

再現に失敗した有名な認知心理学実験まとめ – GIGAZINE

科学的知見は、誰がいつ行っても同じ結果が得られることで客観性が担保される「再現性」が重要ですが、心理学分野は2010年代初頭から、「再現性の危機」と呼ばれる信頼性のゆらぎに直面しました。従来信じられていた多くの心理的効果は、実験者の実験設定に欠陥があったり解釈にバイアス