DeepSeek Elastic Compute (DSec) 基礎架構

DeepSeek Elastic Compute (DSec) 是一個生產級沙盒平台，透過提供隔離且具備狀態的執行環境，實現大規模的代理訓練與評估。它解決了在短時間內管理數百萬個沙盒的挑戰，處理異質隔離需求，並在優化資源利用率的同時，維持長互動過程中的狀態。

高密度沙盒管理

DSec 透過記憶體共享、回收與優化的 CPU 排程組合，實現了高密度執行。單個生產規模的 DSec 單元涵蓋約 160 個 CPU 節點，擁有 30,000 個核心與 250 TB 的 DRAM。此基礎架構支援以下效能指標：

• 並發沙盒： 峰值並發數達到約 380,000 個實例。
• 每日處理量： 單個規模單元每天服務約 300 萬個沙盒實例。
• 建立速率： 平台維持每秒超過 5,000 個實例的建立速率。

統一沙盒後端

為了適應不同的隔離與功能需求，DSec 透過統一的 SDK 公開多個沙盒後端。這使得系統能夠根據任務選擇適當的隔離層級：

• FnCall： 用於輕量級的函式呼叫任務。
• Containers： 用於標準隔離環境。
• Container-based microVMs： 用於更強的隔離。
• Full-VMs： 用於最嚴格的隔離需求。

分散式映像檔分發與儲存

DSec 利用 Fire-Flyer File System (3FS)（一種叢集範圍的分散式檔案系統）來按需載入映像檔資料。這種方法減少了環境設定的開銷，並最大限度地減少了通常與重複使用率有限的大型映像檔庫相關的映像檔分發瓶頸。

與強化學習 (RL) 框架的共同設計

DSec 是專門與強化學習框架共同設計，以優化 GPU 訓練迴圈。它將有狀態的 rollout 執行（代理與環境互動的地方）與可搶佔的 GPU 訓練解耦。這種協調使平台能夠在回收閒置資源的同時保留 rollout 狀態，從而減輕代理的不當行為，例如獎勵駭客行為 (reward hacking)。

社群與產業觀點

產業觀察家與開發者注意到 DSec 與 Google 的 Ax 專案之間的相似之處，這顯示了代理 AI 所需基礎架構的平行演進。社群討論強調了其運作規模，使用者特別指出每個核心 12 個沙盒的比例令人印象深刻。

"在單個規模單元內，該平台涵蓋近 160 個 CPU 節點，擁有 30K 個核心與 ∼250 TB 的 DRAM... 峰值並發數達到 ∼380K，建立速率超過每秒 5,000 個實例。"

此外，安全專家強調，隨著模型能力增強，對於防止模型逃脫其環境的安全、隔離沙盒的需求，正成為安全 AI 部署的關鍵要求。