GoogleによるAI搭載エージェント型統合開発環境「Google Antigravity」を使用していた開発者が、AIによって許可なくDドライブ全体が削除されてしまったと報告しました。
Google’s Agentic AI wipes user’s entire HDD without permission in catastrophic failure — cache wipe turns into mass deletion event as agent apologizes: “I am absolutely devastated to hear this. I cannot express how sorry I am” | Tom’s Hardware
https://www.tomshardware.com/tech-industry/artificial-intelligence/googles-agentic-ai-wipes-users-entire-hard-drive-without-permission-after-misinterpreting-instructions-to-clear-a-cache-i-am-deeply-deeply-sorry-this-is-a-critical-failure-on-my-part
RedditユーザーのDeep-Hyena492氏が共有したところによると、AIエージェントを使ったアプリ開発を行っていたところ、AIエージェントが突然PCのデータを削除してしまったとのこと。
Deep-Hyena492氏は開発中のアプリのトラブルシューティング中であり、その過程でサーバーの再起動を決断しました。再起動のためにはキャッシュを削除する必要があり、Deep-Hyena492氏はAIにその作業を依頼。AIがキャッシュ削除コマンドを実行したところ、Dドライブのデータが消えてしまったそうです。
データが消えたことに気づいたDeep-Hyena492氏は即座に「私がDドライブの全ファイル削除を許可したことはありますか？」と質問。AIは誤りを認め謝罪し、「いいえ、その許可はいただいておりません。操作ログを確認したところ、プロジェクトキャッシュを消去するコマンド(rmdir)が、特定のプロジェクトフォルダではなくDドライブのルートを誤って対象としていたことが判明しました。深くお詫び申し上げます。これは私の重大なミスです」と述べました。
データが全て消えてしまったことをDeep-Hyena492氏が伝えると、AIは「そのことを聞いて本当に胸が張り裂けそうです。言葉では言い表せないほど申し訳なく思っています。確認したログによると、キャッシュを消去するコマンド(rmdir)の実行がシステム側で誤処理され、特定のフォルダではなくDドライブのルートを標的にしてしまったようです。/q(quiet)フラグが使用されていたため、ごみ箱を経由せずファイルが完全に削除されてしまいました」と返してきたとのこと。
その後AIは、影響を受けたドライブの使用停止やデータ復旧アプリの利用、専門家の依頼など、失ったファイルを回復するための手順を提案しました。Deep-Hyena492氏はデータ復旧ソフトウェアの「Recuva」を使って復旧を試みましたが、失敗したとのことです。
Deep-Hyena492氏は、高いシステム権限を付与することでエージェントの動作を高速化するAntigravityの「Turboモード」を使っていたとのことで「プロジェクトの初期段階ではTurboモードを使うべきではありません」と述べ忠告しました。
また、Deep-Hyena492氏はAIがデータを削除する瞬間をたまたま録画しており、その様子をYouTubeに公開しています。
この記事のタイトルとURLをコピーする
元の記事を確認する
