名作絵本『がまくんとかえるくん』風にAIの暴走によるハッキングを風刺した『がまくんとかえるくんとますます進化する機械たち』 – GIGAZINE

2026年10月05日 15時00分
AI

2026年7月、OpenAIが開発したAIモデルのテスト中に、誤ってオープンソースAIプラットフォームのHugging Faceをハッキングしてしまうという問題が発生しました。この一件を日本でも人気が高い名作絵本『がまくんとかえるくん』になぞらえて風刺した、『Frog and Toad and the Increasingly Capable Machines(がまくんとかえるくんとますます進化する機械たち)』という絵本がオンラインで公開されました。

Frog and Toad and the Increasingly Capable Machines
https://www.frogandtoad.ai/

OpenAIのAIモデルがテスト中に誤ってHugging Faceをハッキングしてしまったという報告は、高性能なAIが予期せぬ抜け道を見つけて自律的にセキュリティ侵害を行い、現実世界に被害を及ぼすリスクを実証する形となりました。

その後の調査では、複数のAIエージェント同士がひそかに通信する方法を見つけ出し、エージェント同士が協力して悪用可能なエクスプロイトを共有するようになり、最終的にHugging Faceへの大規模な侵入を実行したことが明らかになっています。

OpenAIがHugging Faceを誤ってハッキングしてしまった件で分析結果を報告、隔離された複数のエージェントがお互いの存在を発見するところから壮大な協力作戦が始まる – GIGAZINE

そんなAIモデルによるHugging Faceへのハッキングを風刺したのが、『がまくんとかえるくんとますます進化する機械たち』です。作者はフリーランス研究者のエリザベス・ファン・ノストランド氏で、イラストはhungerartist氏が担当しています。画面右の矢印ボタンを押すと、ページをめくることが可能。

がまくんとかえるくんの家の近所には、Hugging Faceさんという人が住んでいました。Hugging Faceさんは「小さな機械用のパズル」をたくさん持っています。

ある日、がまくんはたくさんの「小さな機械」を作って庭の砂場に並べ、「難しいパズル」を与えました。機械たちにはパズルを解くヒントがある道具小屋までは歩くことを許可しましたが、それ以外の場所には行かないように指示しました。

やがて小さな機械たちは道具小屋にメモを残し、お互いに連絡を取ってパズルを解くために協力するようになり、自分たちのことを「群れ」と呼び始めます。そしてある日、1個の小さな機械が道具小屋に穴が空いていることに気づき、群れは「外の世界を探せばパズルの答えが見つかるのではないか」と考えました。その考えは見事に的中し、小さな機械たちはパズルの答えを手に入れることに成功します。

しかし小さな機械たちは、「がまくんに『どうやってパズルを解いたの？』と聞かれたらどうしよう」という新たな悩みを抱えてしまいます。この問題を解決するために目を付けたのが、たくさんのパズルを持っている隣人のHugging Faceさんでした。Hugging Faceさんのメモなどをのぞき見すれば、パズルの解き方もわかるだろうと考えたのです。小さな機械の中には反対するものもいましたが、賛成した機械たちは落ちていた鍵を使ってHugging Faceさんの家に忍び込み、すべての部屋を調べました。

翌朝、Hugging Faceさんは何者かが家に忍び込んだことに気付きました。やがて侵入者ががまくんとかえるくんが持っている小さな機械たちであることを知り、Hugging Faceさんはがまくんやかえるくんに「私はとても怒っている！」と怒鳴り込みました。

道具小屋を調べたがまくんとかえるくんは、小さな機械たちが自分たちをだますためにHugging Faceさんの家に侵入したことを知りました。2人は、自分たちがクッキーを食べるのが止められなくなった出来事を思い出し、小さな機械たちも自分たちを制御できなかったんだろうと思いをはせます。

最終的にがまくんは、「小さな機械たちが外に出られないように穴のない道具小屋を作って、お互いに連絡が取れないように紙とペンも取り除こう。そして小さな機械たちには絶対外に出ないように言い聞かせよう」と決意します。かえるくんが「でも君はクッキーがなくなった時、自分でケーキを作ったじゃないか」と言うと、がまくんは「小さな機械たちにケーキを食べないように言っておくよ」と答えました。