OpenAI 收购 Promptfoo

OpenAI 正在收购 Promptfoo，这是一款专注于在 AI 系统开发过程中识别和修复漏洞的 AI 安全平台。此项收购使 OpenAI 能够将 Promptfoo 的评估和红队技术直接整合到 OpenAI Frontier——用于构建和运营 AI 同事的平台。

企业 AI 安全与合规

随着企业将 AI 同事部署到真实工作流中，系统化的测试、安全性和合规性成为基础性需求。组织需要工具来测试代理行为、在部署前检测风险，并保留监督、治理和问责所需的记录。

整合到 OpenAI Frontier

OpenAI 将把 Promptfoo 的能力整合到 Frontier 平台，以提供原生的安全与安全性测试。此整合聚焦于三个主要领域：

原生安全与安全性测试

自动化安全测试和红队将直接内置于平台。这使企业能够识别并修复以下风险：

• 提示注入
• 越狱
• 数据泄露
• 工具误用
• 超出政策的代理行为

集成的开发工作流

安全性和评估将深度集成到 Frontier 的开发工作流中。这使开发者能够在开发周期的早期识别、调查并修复代理风险。

监督与问责

Frontier 将提供集成的报告和可追溯性。这些功能帮助组织记录测试过程、随时间监控变化，并满足 AI 的治理、风险与合规（GRC）期望。

开源与团队专长

Promptfoo 由 Ian Webster 和 Michael D’Angelo 领衔，受到超过 25%《财富》500 强公司的信任。此次收购包括一个被广泛使用的开源 CLI 和库，用于评估和红队 LLM 应用。OpenAI 表示，他们将继续构建该开源项目，同时在 Frontier 中推进集成的企业能力。

高管观点

"Promptfoo 为企业级规模的 AI 系统评估、保障和测试带来了深厚的工程专长。他们的工作帮助企业部署安全可靠的 AI 应用，我们很高兴将这些能力直接引入 Frontier。"

— Srinivas Narayanan，OpenAI B2B 应用首席技术官

"我们创立 Promptfoo 是因为开发者需要一种实用的方式来保障 AI 系统的安全。随着 AI 代理与真实数据和系统的连接日益紧密，确保其安全性和可验证性变得前所未有的困难和重要。加入 OpenAI 让我们能够加速这项工作，为构建真实世界 AI 系统的团队带来更强的安全、可靠性和治理能力。"

— Ian Webster，Promptfoo 联合创始人兼 CEO