OpenAI 收購 Promptfoo

OpenAI 正在收購 Promptfoo，一個專注於在 AI 系統開發過程中識別與修復漏洞的 AI 安全平台。此項收購讓 OpenAI 能將 Promptfoo 的評估與紅隊測試技術直接整合至 OpenAI Frontier——用於構建與運營 AI 同事的平臺。

企業 AI 安全與合規

隨著企業將 AI 同事部署到實際工作流程中，系統化的測試、安全性與合規性成為基礎需求。組織需要工具來測試代理行為、在部署前偵測風險，並保留監督、治理與問責所需的紀錄。

整合至 OpenAI Frontier

OpenAI 將把 Promptfoo 的功能納入 Frontier 平臺，提供原生的安全與安全測試。此整合聚焦於三個主要領域：

原生安全與安全測試

自動化的安全測試與紅隊測試將直接內建於平台。這讓企業能夠識別與修復以下風險：

• 提示注入
• 越獄
• 資料洩漏
• 工具濫用
• 違反政策的代理行為

整合開發工作流程

安全與評估將深度整合於 Frontier 的開發工作流程中。開發者因此能在開發週期的早期即識別、調查與修復代理風險。

監督與問責

Frontier 將提供整合的報告與可追溯性功能。這些特性協助組織記錄測試流程、隨時間監控變更，並符合 AI 的治理、風險與合規（GRC）期望。

開源與團隊專業

Promptfoo 由 Ian Webster 與 Michael D’Angelo 共同領導，已獲得超過 25% 的《財富 500 強》公司信任。此次收購包括一套廣受使用的開源 CLI 與函式庫，用於評估與紅隊測試大型語言模型（LLM）應用程式。OpenAI 表示，將持續建設此開源專案，同時在 Frontier 中推進整合的企業功能。

執行層觀點

"Promptfoo 為企業規模的 AI 系統評估、保護與測試帶來深厚的工程專業知識。他們的工作協助企業部署安全且可靠的 AI 應用，我們很高興能將這些能力直接帶入 Frontier。"

— Srinivas Narayanan，OpenAI B2B 應用技術長

"我們創立 Promptfoo 是因為開發者需要一種實用的方式來保護 AI 系統。隨著 AI 代理與真實資料與系統的連結日益緊密，保護與驗證它們變得前所未有的挑戰且重要。加入 OpenAI 讓我們能加速此工作，為構建真實世界 AI 系統的團隊帶來更強大的安全、可靠與治理能力。"

— Ian Webster，Promptfoo 共同創辦人兼執行長