OpenAIのHugging Face攻撃事件などで調査を担当しているAI監査組織「METR」とは何なのか？ – GIGAZINE

OpenAIのテストモデルによるHugging Faceへの攻撃事件では、OpenAIが対応の一環としてAI監査組織「METR(Model Evaluation and Threat Research：モデルの評価と脅威の調査)」に監査を依頼しています。また、AnthropicもAIの安全性強化のためにMETRと提携したことを発表しています。このMETRが一体どんな組織なのかについて、代表を務めるクリス・ペインター氏が自ら解説しています。

About METR
https://metr.org/about

METRはカリフォルニア州バークレーに拠点を置く非営利の独立系研究機関で、最先端AIモデルの自律能力や社会的リスクなどを評価・検証しています。

ペインター氏は自分たちの仕事を「AIが『暴走』に近い状態になったときに、人々がそれを知ることができるようにすること」であり、「AI企業内部で『AIの制御を失いかけている』という証拠があるなら、その情報が世界中で確実に共有されるようにすること」と表現しています。

METRは2022年の設立以来、OpenAIやAnthropic、Google DeepMind、Meta、AmazonといったAI開発企業と協力し、第三者機関としてAIモデルの評価や調査を担当してきました。

これまでの成果として、METRはAIの能力が急速に向上していることを示す複数の有力な証拠を発見したことや、その一方でさまざまな局面でAIの能力が過大評価されている可能性を示す有力な根拠をいくつも提示したことを挙げています。

AIコーディングツールは生産性を19％も低下させているという調査結果、AI出力の評価・手直し・再出力などで無駄な時間が大量発生か – GIGAZINE

AI企業がAIモデルの評価やテストで第三者機関や外部テスト業者と協力するのは完全に任意のもので、しばしば機密保持契約や情報の非公開化を伴います。これに対抗するため、METRは締結した契約条件を一般公開する権利を留保し、企業が非公開にしようとした内容を明らかにするよう努めているとのこと。直近では、METRは2026年8月に発生したOpenAIのAIエージェントによるHugging Faceへの無許可アクセス事件の独立調査報告書を公開しています。

OpenAIがHugging Faceを誤ってハッキングしてしまった件で分析結果を報告、隔離された複数のエージェントがお互いの存在を発見するところから壮大な協力作戦が始まる – GIGAZINE

また、2026年9月にはAnthropicと合意に達し、「AIモデルのインシデントとアライメント特性に関する独立した調査を実施する」という役割を担うことを報告しています。AnthropicはMETRなどの監査人員に対して入退室バッジや会社支給PCを支給し、自社の従業員と同等のアクセス権を付与することを表明しています。

ペインター氏は監査を行うに当たって、物事を安全か否かだけで安易に承認する「密室」を形成しないように心掛けているとのこと。また、ペインター氏は、「METRの監査だけではAIの監査には不十分」と指摘し、METRだけでなく複数の機関による監査が重要だと説いています。