「隠された目的を持つAI」を正しく監査するための手法をAnthropicが開発

Anthropicが2025年3月13日に、意図的に隠された目的を持つAIシステムを検出する技術を開発したことを発表しました。

この記事は役に立ちましたか？

もし参考になりましたら、下記のボタンで教えてください。

2026年05月01日 12時05分 AI イギリスの政府系機関・AI Security Institute(AISI)によるサイバー攻撃性能の検証で、GPT-5.5が「ネットワーク完全乗っ取り攻撃」を成功させられる性能を持っていることが明らかにな

Anthropicが、自社の大規模言語モデルであるClaude Opus 4および4.1に、会話を終了させる機能を新たに導入したと発表しました。この機能は通常の利用では作動せず、極端に有害または虐待的なやり取りが執拗に続く場合にのみ発動します。続きを読む...ソース元はコチラ

現代社会では、MicrosoftのWordやExcelなどのオフィススイート製品がさまざまなオフィスで使用されていますが、政府機関が外国の民間企業に依存することについてはセキュリティや自立性の観点で問題があります。そこで、フランスのデジタル省庁間総局(DINUM)が開発

ヨーロッパの研究機関や企業のコンソーシアムが、英語中心のAI開発に対抗しヨーロッパの言語的多様性を反映したAIの実現を目的としてEUの公式全24言語に加え、その他11言語をサポートする大規模言語モデル(LLM)「EuroLLM」を開発しオープンソースとして公開しています

2025年03月13日 11時38分メモロボット掃除機「ルンバ」の製造元であるiRobotが、2024年第4四半期(10月～12月)および通年の決算報告書において、「事業継続に関する重大な疑義」を表明し、自社の将来に懸念を示しました。この発表を

By The Official CTBTO Photostream世界中をつないでいる海底ケーブルは現代社会の生命線ですが、長距離を接続しているケーブルのどこか一部を切断されると機能が停止する都合上、意図的な破壊工作を防止するのが困難です。海底ケーブルの破壊工作への対策

関連記事