SafetyKit Risk Agents powered by OpenAI Models

SafetyKit 已部署由 OpenAI 最强大的模型驱动的多模态 AI 智能体，旨在为市场平台、支付平台和金融科技公司自动化检测欺诈和违规活动。通过集成 GPT-5、GPT-4.1 以及 Computer Using Agent (CUA) 等专业工具，SafetyKit 在审查 100% 客户内容的同时，实现了超过 95% 的准确率。

Model-Specific Agent Architecture

SafetyKit 采用模型匹配方法，根据风险类别将内容路由到特定的智能体。这种架构确保了任务需求决定模型选择，从而在推理、处理量和模态方面实现优化：

GPT-5: 用于文本、图像和 UI 的多模态推理，以识别隐藏风险并支持精确、分层的决策制定。
GPT-4.1: 用于高吞吐量审核工作流，并确保可靠地遵循详细的内容政策指令。
Reinforcement Fine-Tuning (RFT): 用于在处理复杂安全政策时，提升超越默认模型能力的召回率和精确度。
Deep Research: 集成用于对商家验证和评论进行实时的在线调查。
Computer Using Agent (CUA): 用于自动化复杂的政策任务，以减少人工审核的需求。

Multimodal Risk Detection and Policy Enforcement

SafetyKit 智能体可以处理传统基于关键词的系统经常遗漏的复杂安全任务，例如检测诈骗图像中嵌入的电话号码或执行特定地区的合规性规则。

Scam Detection

Scam Detection 智能体结合了视觉和文本分析。它使用 GPT-4.1 来解析图像、理解布局并识别政策违规行为，例如嵌入在产品图像中的二维码或电话号码。

Policy Disclosure

Policy Disclosure 智能体确保列表和落地页包含强制性的法律免责声明或特定地区的警告。工作流涉及 GPT-4.1 提取相关章节，随后由 GPT-5 根据内部政策库评估这些章节，以确定所需的语言是否已存在且对于特定地区是强制性的。

Performance Gains and Scalability

通过采用新的 OpenAI 模型，SafetyKit 实现了显著的运营增长和性能提升：

Vision Task Improvements: GPT-5 的部署使得在最具挑战性的视觉任务上的基准测试分数提高了 10 分以上。
Token Volume: 每日 Token 处理量在六个月内从 2 亿扩展到了超过 160 亿 Token。
Rapid Integration: SafetyKit 会针对其最难的案例对新发布的产品（包括 o3 和 GPT-5）进行基准测试，通常在发布当天即可部署表现最佳的模型。

"OpenAI 动作非常快，而我们设计的系统旨在紧跟其步伐。每一次新发布都为我们带来了运营优势——解锁了我们以前无法支持的新能力和领域，并提高了我们交付给客户的覆盖范围和准确性。"

—David Graunke, Founder and CEO of SafetyKit

Impact on Safety Operations

通过自动化审查所有客户内容，SafetyKit 减少了人工审核员接触到攻击性内容的风险，并允许他们专注于更细微的政策决策。该系统现在覆盖了广泛的风险领域，包括支付风险、欺诈、反洗钱和反儿童剥削，保护着拥有数亿终端用户的客户。 ",