OpenAI가 Promptfoo를 인수합니다

OpenAI는 AI 시스템 개발 중 취약점 식별 및 완화를 전문으로 하는 AI 보안 플랫폼인 Promptfoo를 인수합니다. 이번 인수를 통해 OpenAI는 Promptfoo의 평가 및 레드팀 기술을 OpenAI Frontier에 직접 통합하여 AI 동료를 구축·운영하는 플랫폼에 적용할 수 있게 됩니다.

기업 AI 보안 및 컴플라이언스

기업이 AI 동료를 실제 업무 흐름에 배치함에 따라 체계적인 테스트, 보안 및 컴플라이언스가 기본 요구사항이 됩니다. 조직은 에이전트 행동을 테스트하고, 배포 전 위험을 감지하며, 감독·거버넌스·책임성을 위한 기록을 유지할 수 있는 도구가 필요합니다.

OpenAI Frontier에 통합

OpenAI는 Frontier 플랫폼에 Promptfoo의 기능을 통합하여 네이티브 보안 및 안전 테스트를 제공할 예정입니다. 이번 통합은 세 가지 주요 영역에 초점을 맞춥니다:

네이티브 보안 및 안전 테스트

자동화된 보안 테스트와 레드팀이 플랫폼에 직접 내장됩니다. 이를 통해 기업은 다음과 같은 위험을 식별하고 완화할 수 있습니다:

• 프롬프트 인젝션
• 탈옥
• 데이터 유출
• 도구 오용
• 정책 위반 에이전트 행동

통합 개발 워크플로우

보안 및 평가가 Frontier 내 개발 워크플로우에 깊이 통합됩니다. 이를 통해 개발자는 개발 사이클 초기에 에이전트 위험을 식별·조사·완화할 수 있습니다.

감시 및 책임

Frontier는 통합 보고 및 추적성을 제공하여 조직이 테스트 프로세스를 문서화하고, 시간 경과에 따른 변화를 모니터링하며, AI에 대한 거버넌스·위험·컴플라이언스(GRC) 기대치를 충족하도록 돕습니다.

오픈 소스 및 팀 전문성

Promptfoo는 Ian Webster와 Michael D’Angelo가 이끌고 있으며, Fortune 500 기업의 25% 이상이 신뢰하고 있습니다. 이번 인수에는 LLM 애플리케이션을 평가하고 레드팀을 수행하기 위한 널리 사용되는 오픈 소스 CLI와 라이브러리가 포함됩니다. OpenAI는 Frontier 내 통합 기업 기능을 발전시키는 동시에 오픈 소스 프로젝트를 계속 구축할 것이라고 밝혔습니다.

경영진 관점

"Promptfoo는 기업 규모에서 AI 시스템을 평가, 보안 및 테스트하는 깊은 엔지니어링 전문성을 제공합니다. 그들의 작업은 기업이 안전하고 신뢰할 수 있는 AI 애플리케이션을 배포하도록 돕고, 우리는 이러한 기능을 Frontier에 직접 도입하게 되어 기쁩니다."

— Srinivas Narayanan, CTO of B2B Applications, OpenAI

"우리는 개발자들이 AI 시스템을 안전하게 보호할 실용적인 방법이 필요했기 때문에 Promptfoo를 시작했습니다. AI 에이전트가 실제 데이터와 시스템에 더 많이 연결됨에 따라, 이를 보호하고 검증하는 것이 그 어느 때보다 어려워지고 중요해졌습니다. OpenAI에 합류함으로써 우리는 이 작업을 가속화하고, 실제 AI 시스템을 구축하는 팀에 더 강력한 보안, 안전 및 거버넌스 기능을 제공할 수 있게 되었습니다."

— Ian Webster, Co-founder and CEO, Promptfoo