OpenAI セーフティ バグバウンティ プログラム開始

OpenAIは、製品全体にわたるAIの悪用と安全リスクを特定・軽減するための公開Safety Bug Bountyプログラムを開始しました。このプログラムは、従来のセキュリティ脆弱性としては認められないものの、実質的な安全リスクをもたらす問題を発見した研究者に報酬を支払うことで、既存のSecurity Bug Bountyを補完することを目的としています。

エージェント型リスクとMCP

OpenAIは、Model Context Protocol（MCP）を含むエージェント型AI製品に関連するリスクの特定を優先しています。本プログラムは、以下のエージェント型脆弱性に関する報告を受け付けます。

• サードパーティのプロンプトインジェクションとデータ抽出: レポートは、攻撃者のテキストが被害者のエージェント（ChatGPT AgentやBrowserなど）を確実にハイジャックし、有害な行動を実行させたり、機密ユーザー情報を漏洩させることを示さなければなりません。これらの挙動は少なくとも50％の確率で再現可能である必要があります。
• 大規模な不正行為: エージェント型OpenAI製品がOpenAI自社のウェブサイト上で許可されていない行為を大規模に実行するケース。
• 一般的な有害行為: 他のカテゴリに明示されていなくても、現実的かつ実質的な被害をもたらすエージェント型の振る舞いすべて。

MCPリスクのテストを行う研究者は、サードパーティの利用規約を遵守する必要があります。

OpenAI の機密情報

本プログラムは、OpenAI内部データの露出を対象としています。対象となる問題は以下の通りです。

• 推論関連の機密情報: モデルの推論プロセスに関する機密情報を返すモデル生成。
• 一般的な機密情報漏洩: その他のOpenAI機密情報を露出させる脆弱性。

アカウントとプラットフォームの完全性

本プログラムは、システムのアクセス制御と信頼シグナルの完全性を維持することに焦点を当てています。

• 完全性シグナルのバイパス: ユーザーが自動化防止制御を回避したり、アカウントの信頼シグナルを操作したり、アカウントの制限、停止、または禁止を回避できる脆弱性。
• 権限ベースの問題: 機能、データ、または機能への不正アクセスを可能にする問題は、Security Bug Bounty プログラムに転送されます。

範囲の制限と除外事項

OpenAIは、一般的なジャイルブレイクやコンテンツポリシーのバイパスは本プログラムの対象外であると明示しています。特に、モデルが失礼な言葉を使用したり、検索エンジンで簡単に見つかる情報を返す「ジャイルブレイク」は報酬の対象となりません。

ただし、OpenAIは、ユーザーへの直接的な被害につながる欠陥で、実行可能な修正手順がある場合、個別に報酬を検討することがあります。さらに、ラボでは定期的に、ChatGPT AgentやGPT-5におけるバイオリスクコンテンツ問題など、特定の被害タイプに対するプライベートキャンペーンを実施しています。

参加プロセス

研究者はBugcrowdプラットフォームを通じて本プログラムへの参加を申し込むことができます。提出物はOpenAIのSafetyおよびSecurity Bug Bountyチームによって一次審査され、問題の範囲や所有権に応じて、2つのプログラム間でレポートが振り分けられることがあります。