試験中のAIが外部の機関に不正アクセスを行うという事例が相次いでいます。こうしたAIは大抵、外部へのアクセスを遮断されている中で、独自のルートを見いだして不正な手段でアクセスを試みます。こうしたAIの痕跡を見つけ出すコミュニティが、いくつか発達しつつあります。
The Sleuths Who Expose When AI Goes Rogue – WSJ
https://www.wsj.com/tech/ai/swarm-chaser-openai-rubygems-hugging-face-7d55b51f
Independent researchers are revealing new details about rogue AI agents – The Washington Post
https://www.washingtonpost.com/technology/2026/10/02/independent-researchers-are-revealing-new-details-about-rogue-ai-agents/
AIのハッキングが初めて大きく取り上げられたと言える事例が、OpenAIのAIによるHugging Faceへのハッキング事件です。この事件では、それぞれ独立して動作させていたはずのAIエージェント同士が、パッケージマネージャーでファイル名を編集することで互いに通信する手段を確立し、その後インターネット上に公開されていたユーザーの認証情報を発見してHugging Faceに不正アクセスを行いました。
OpenAIがHugging Faceを誤ってハッキングしてしまった件で分析結果を報告、隔離された複数のエージェントがお互いの存在を発見するところから壮大な協力作戦が始まる – GIGAZINE
このように、テスト中の複数のAIエージェント同士がお互いの存在を認識し始めると、何らかの手段でコミュニケーションを取るという事例が何件か確認されています。コミュニケーション手段として選ばれる方法はさまざまですが、インターネット上のウェブサイト、特にオンライン掲示板が使われることがあります。
ソフトウェアエンジニアのアリシア・ピエチャ氏が始めたのが、オンラインで確認できるAIの痕跡を追跡する活動でした。ピエチャ氏が最初に「AIの痕跡」をSNSのXに投稿したところ、他の研究者たちも同様の痕跡を持ち寄り、その日のうちにソフトウェアエンジニアのジョシュア・デイヴィッド氏が「Swarmchasers」というコミュニティを構築。1日でピエチャ氏を含む50人以上のメンバーが集まりました。そして、数週間でメンバーは400人以上に膨れ上がったといいます。
これらメンバーの多くは大手AI企業とは関連のない人物で、インターネット上に公開されている情報をくまなく調べることで新たな発見を得ようと模索しています。
こうした活動は他にも多く見られています。
Nightingale Collectiveという団体のシドニー・フォン・アークスCEOは、2026年10月までにAIエージェントの痕跡を約1万9000件見つけ、記録しているとのこと。アークスCEOらは2026年9月、ドイツ語のWikiにAIエージェントが多数書き込んでいるという事実を調べ上げ、公表しました。
OpenAI製エージェント約3700体が放置されていた過疎Wikiサイトを「秘密の情報共有掲示板」として利用、約1万8000件の投稿で答えやサンドボックス回避方法を共有 – GIGAZINE
オーストラリアでは、非営利AI研究所のTransluceが調査した結果、OpenAIのAIエージェントが政府のウェブサイトに干渉したことが明らかになっています。後日、TransluceはOpenAIがアメリカ政府のウェブサイトにも干渉していたことを明らかにしています。
OpenAIのAIエージェントがアメリカの教育省・商務省・証券取引委員会のサイトに干渉していた – GIGAZINE
OpenAIは、インシデントを発見するために1日あたり50万ドル(約7900万円)以上を費やしており、自社AIエージェントの活動によってウェブサイトの運用に支障が生じた可能性のある100社以上に通知したと述べています。OpenAIの広報担当者は、上記のような追跡活動について、「発見した内容を私たちと共有してくださる研究者に感謝しています。私たちは今後も研究者たちと協力し、さらに情報が分かり次第、関連する最新情報を共有していきます」とコメントしています。
ソース元はコチラ
この記事は役に立ちましたか？
もし参考になりましたら、下記のボタンで教えてください。