OpenAIがプロンプトインジェクション攻撃からユーザーの機密情報を保護するためのロックダウンモードを発表 – GIGAZINE


AI


OpenAIがプロンプトインジェクション攻撃からユーザーの機密情報を保護するための「Lockdown Mode(ロックダウンモード)」を発表しました。

Lockdown Mode | OpenAI Help Center
https://help.openai.com/en/articles/20001061-lockdown-mode


OpenAI unveils Lockdown Mode to protect sensitive data from prompt injection attacks | TechCrunch
https://techcrunch.com/2026/06/06/openai-unveils-lockdown-mode-to-protect-sensitive-data-from-prompt-injection-attacks/

ロックダウンモードは、OpenAI製品のウェブや外部サービスに接続できるツールや機能を制限する、オプションとして提供される高度なセキュリティ設定です。ロックダウンモードについて簡単に説明すると、「外部ネットワークへのリクエストを制限することで、プロンプトインジェクション攻撃によるデータ漏えいのリスクを軽減する」といったもの。ただし、セキュリティを向上させる代償として、一部の便利な機能が無効化または制限されることとなるので注意が必要です。

そのため、OpenAIはロックダウンモードについて、「ロックダウンモードはすべての人に適しているわけではありません。機密データを扱い、プロンプトインジェクション攻撃に関連するデータ漏えいリスクからより厳格な保護を必要とする個人や組織向けに設計されています」と説明しています。


ロックダウンモードは、すべてのアカウントタイプおよびワークスペースで利用可能ですが、順次展開予定であるため、一部ユーザーの設定画面ではまだロックダウンモードが表示されない場合もあるとのこと。

ロックダウンモードはChatGPTの設定から「セキュリティ」メニューの「高度なセキュリティ」の中にあります。なお、ロックダウンモードと開発者モードは同時に有効にすることはできません。また、ロックダウンモードが有効になっている場合、コンポーザーの上にステータスメッセージが表示されます。特定のチャットのみでオフにするには、ステータスメッセージから「管理」を選択し、「このチャットでオフにする」を選択すればOK。また、「その他のオプション」を開き、「ロックダウン」を選択し、「無効」を選択することも可能です。


そもそもプロンプトインジェクション攻撃とは、悪意のある入力を正当なプロンプトとして偽装することで、AIを操作して機密情報を漏えいさせたり、誤情報を拡散させたりするというAIに対するサイバー攻撃の一種です。

OpenAIはプロンプトインジェクション攻撃からユーザーの機密情報を保護するために多層的なセキュリティおよび安全システムを継続的に強化しており、ロックダウンモードはそのひとつとして、AIモデル・製品・システムレベル全体にわたる保護に基づいたものとなっています。具体的には、「サンドボックス」「URLベースのデータ漏洩に対する保護」「監視と強制」「ロールベースのアクセスや監査ログ」などのエンタープライズ制御が含まれます。

ロックダウンモードは機密データを攻撃者に転送する可能性のある送信ネットワーク要求を制限することで、プロンプトインジェクション攻撃によるデータ漏えいの最終段階を防ぐように設計されています。ただし、ChatGPTが処理するコンテンツにプロンプ​​トインジェクション攻撃が発生することを防ぐことはできません。例えば、プロンプトインジェクション攻撃はキャッシュされたウェブコンテンツやアップロードされたファイルに発生する可能性があり、応答の動作や精度に影響を与える可能性がある点には留意が必要です。

ロックダウンモードを有効にした場合、OpenAI製品の以下の機能が無効になります。

ライブウェブブラウジング:ウェブブラウジングはキャッシュされたコンテンツへのアクセスのみに制限されます。検索結果が制限される場合、利用できない場合、または古い情報である場合があります。
画像サポート:ChatGPTは通常の応答で画像を表示したり、ウェブから画像を取得したりできない場合があります。ユーザーは引き続き画像ファイルをアップロード可能。ただし、画像生成機能は他の機能が利用可能な場合は引き続き利用できます。
Deep ResearchDeep Researchは無効になります。
エージェントモードエージェントモードは無効になります。
キャンバスのネットワーク機能:ユーザーはキャンバスが生成したコードによるネットワークへのアクセスを承認できません。
ファイルのダウンロード:ChatGPTはデータ分析のためにファイルをダウンロードすることができなくなります。ただし、手動でアップロードされたファイルはChatGPTで処理可能です。


ロックダウンモードでは、メモリ使用量・ファイルアップロード・会話の共有機能・会話内容がAIモデルの改善に使用されるかどうかといった機能は変更されません。これらの設定の多くは、ワークスペース管理者が個別に構成できます。

なお、OpenAIによるとロックダウンモードを有効にしても会話内容をAIモデルのトレーニングに使用するかどうかに関する設定は変わりません。

この記事のタイトルとURLをコピーする


ソース元はコチラ

この記事は役に立ちましたか?

もし参考になりましたら、下記のボタンで教えてください。

関連記事