OpenAI Sora 動態哲學

OpenAI 概述了 Sora 動態的設計哲學，這是一個旨在激發創意與主動參與，而非被動消費的發現系統。該系統強調使用者控制、基於跨平台活動的個人化推薦，以及多層次的安全機制，以在表達與保護之間取得平衡。

核心設計原則

Sora 動態建立在四項主要原則之上，旨在將使用者從被動瀏覽轉向主動創作：

• 創意優先排序： 排序演算法偏好創意與主動參與，而非被動消費，以確保體驗保持愉悅。
• 使用者控制： 動態包含可調整的排序，允許使用者明確定義偏好。此外，家長可透過 ChatGPT 家長控制管理持續捲動，並為青少年停用動態個人化。
• 連結優先： 系統偏好連結內容與「Cameo 流」而非全域、未連結的內容，以協助使用者建立與加強社交連結。
• 安全與自由的平衡： 動態透過強健的防護措施防止有害產出，同時保留社群表達的空間，以實現廣泛的可及性。

推薦引擎與個人化

Sora 使用個人化推薦系統預測使用者會覺得能激發靈感的內容。演算法利用多種訊號類別來決定動態內容：

• Sora 活動： 包括貼文、已追蹤帳號、已按讚與評論的貼文、混音內容，以及從 IP 位址推算的概括位置（城市層級）。
• ChatGPT 整合： 系統可能納入 ChatGPT 歷史以個人化推薦，使用者可在 Sora 的資料控制中停用此功能。
• 互動訊號： 演算法追蹤觀看次數、按讚、評論、混音，以及明確的「減少此類內容」指示。
• 作者訊號： 會考量追蹤者數量、其他貼文以及過去的互動水平等指標。
• 安全訊號： 系統評估貼文是否符合適當性或違反政策。

安全框架與內容審查

OpenAI 採用多層防禦策略防止有害內容進入動態，結合主動預防、自動掃描與人工監督。

創作點防護欄

第一層防禦發生於生成過程。由於內容在 Sora 內部產生，OpenAI 實施防護欄以防止不安全或有害內容一開始就被創建。若內容繞過這些初始防護欄，可能會被移除分享功能。

自動與人工審查

所有動態內容皆由自動化工具掃描，以符合全球使用政策與動態資格。這些工具持續更新以因應新興風險。此自動層面由人工審查補足，團隊會監控使用者舉報並主動檢查活動，以捕捉自動偵測未及的違規行為。

禁止內容

若內容違反全球使用政策或 Sora 發布指南，將從動態及其他分享平台（如使用者畫廊）中移除。禁止內容包括：

• 圖像化的性內容與圖像化的暴力。
• 極端主義宣傳與仇恨內容。
• 未經同意的在世個人或已故公眾人物的十億級相似形象，於未授權情境中使用。
• 鼓勵自我傷害、飲食失調或可能被未成年人模仿的危險挑戰之內容。
• 互動誘餌： 主要為了獲取互動而製作的低品質內容。
• 侵犯智慧財產權。
• 霸凌與外貌批評。

在表達與保護之間取得平衡

OpenAI 表示，其安全方法基於 ChatGPT 4o 影像生成模型的哲學：結合針對高風險領域的主動防護欄與被動的「舉報 + 移除」機制。此方式讓使用者有更大的探索空間，同時確保對問題內容能快速回應。