SafetyKit Risk Agents powered by OpenAI Models

SafetyKit 已部署由 OpenAI 最強大模型驅動的多模態 AI 代理，旨在為電商平台、支付平台和金融科技公司自動化檢測欺詐和違規活動。透過整合 GPT-5、GPT-4.1 以及如 Computer Using Agent (CUA) 等專業工具，SafetyKit 在審查 100% 客戶內容的同時，實現了超過 95% 的準確度。

Model-Specific Agent Architecture

SafetyKit 採用模型匹配方法，根據風險類別將內容路由至特定的代理。這種架構確保了任務需求決定模型選擇，從而優化推理、處理量和模態：

GPT-5: 用於文本、圖像和 UI 的多模態推理，以識別隱藏風險並支持精確、分層的決策。
GPT-4.1: 用於高容量審查工作流，並可靠地遵循詳細的內容政策指令。
Reinforcement Fine-Tuning (RFT): 用於在複雜的安全政策下，提升超越預設模型能力的召回率和精確度。
Deep Research: 整合用於對商家驗證和評論進行實時在線調查。
Computer Using Agent (CUA): 用於自動化複雜的政策任務，以減少人工審查的需求。

Multimodal Risk Detection and Policy Enforcement

SafetyKit 代理處理複雜的安全任務，而傳統基於關鍵字的系統往往會錯過這些任務，例如檢測詐騙圖像中嵌入的電話號碼，或執行特定區域的合規性規則。

Scam Detection

Scam Detection 代理結合了視覺和文本分析。它使用 GPT-4.1 來解析圖像、理解佈局，並識別政策違規行為，例如嵌入在產品圖像中的 QR code 或電話號碼。

Policy Disclosure

Policy Disclosure 代理確保商品列表和落地頁包含強制性的法律免責聲明或特定區域的警告。工作流涉及 GPT-4.1 提取相關章節，隨後由 GPT-5 根據內部政策庫評估這些章節，以判斷是否包含特定區域所需的強制性語言。

Performance Gains and Scalability

透過採用新的 OpenAI 模型，SafetyKit 實現了顯著的業務增長和性能提升：

Vision Task Improvements: GPT-5 的部署導致在最具挑戰性的視覺任務上，基準測試分數提升了 10 分以上。
Token Volume: 每日 Token 處理量在六個月內從 2 億個 Token 擴展到了超過 160 億個 Token。
Rapid Integration: SafetyKit 會針對其最困難的案例，將新版本（包括 o3 和 GPT-5）進行基準測試，並經常在發布當天即部署表現最佳的模型。

"OpenAI 動作非常快，而我們設計的系統旨在跟上其步伐。每一次新版本發布都為我們帶來了業務優勢——解鎖了我們以前無法支持的新能力和領域，並提升了我們為客戶提供的覆蓋範圍和準確度。"

—David Graunke, Founder and CEO of SafetyKit

Impact on Safety Operations

透過自動化審查所有客戶內容，SafetyKit 減少了人工審查員接觸到冒犯性內容的風險，並讓他們能夠專注於細微的政策決策。該系統現在覆蓋了廣泛的風險領域，包括支付風險、欺詐、反洗錢和反兒童剝削，保護著擁有數億終端用戶的客戶。