DeepSeek Elastic Compute (DSec) 인프라

DeepSeek Elastic Compute (DSec)는 격리된 상태 유지 실행 환경을 제공하여 대규모 에이전트 학습 및 평가를 가능하게 하는 프로덕션 샌드박스 플랫폼입니다. 이 플랫폼은 대규모 버스트 상황에서 수백만 개의 샌드박스를 관리하고, 이기종 격리 요구 사항을 처리하며, 리소스 활용을 최적화하는 동시에 긴 상호 작용 전반에 걸쳐 상태를 유지하는 문제를 해결합니다.

고밀도 샌드박스 관리

DSec은 메모리 공유, 회수 및 최적화된 CPU 스케줄링의 조합을 통해 고밀도 실행을 달성합니다. DSec의 단일 프로덕션 규모 단위는 약 160개의 CPU 노드, 30,000개의 코어, 250 TB의 DRAM으로 구성됩니다. 이 인프라는 다음과 같은 성능 지표를 지원합니다:

• 동시 샌드박스: 최대 동시성 인스턴스 수는 약 380,000개에 달합니다.
• 일일 처리량: 단일 규모 단위는 하루에 약 300만 개의 샌드박스 인스턴스를 처리합니다.
• 생성 속도: 이 플랫폼은 초당 5,000개 이상의 인스턴스 생성 속도를 유지합니다.

통합 샌드박스 백엔드

다양한 격리 및 기능 요구 사항을 수용하기 위해 DSec은 통합 SDK를 통해 여러 샌드박스 백엔드를 노출합니다. 이를 통해 시스템은 작업에 따라 적절한 수준의 격리를 선택할 수 있습니다:

• FnCall: 경량 함수 호출 작업을 위한 백엔드.
• Containers: 표준 격리 환경을 위한 백엔드.
• Container-based microVMs: 더 강력한 격리를 위한 백엔드.
• Full-VMs: 가장 엄격한 격리 요구 사항을 위한 백엔드.

분산 이미지 배포 및 스토리지

DSec은 클러스터 전체 분산 파일 시스템인 Fire-Flyer File System (3FS)을 활용하여 필요에 따라 이미지 데이터를 로드합니다. 이러한 접근 방식은 환경 설정 오버헤드를 줄이고, 재사용이 제한적인 대규모 이미지 코퍼스와 관련된 이미지 배포 병목 현상을 최소화합니다.

강화 학습(RL) 프레임워크와의 공동 설계

DSec은 GPU 학습 루프를 최적화하기 위해 강화 학습 프레임워크와 특별히 공동 설계되었습니다. 이 플랫폼은 상태 유지 롤아웃 실행(에이전트가 환경과 상호 작용하는 단계)을 선점 가능한 GPU 학습과 분리합니다. 이러한 조정을 통해 플랫폼은 유휴 리소스를 회수하면서 롤아웃 상태를 보존할 수 있으며, 이는 보상 해킹과 같은 에이전트의 오작동을 완화합니다.

커뮤니티 및 업계 관점

업계 관찰자와 개발자들은 DSec과 Google의 Ax 프로젝트 간의 유사점에 주목하며, 에이전트 AI에 필요한 인프라의 병렬적 진화를 시사했습니다. 커뮤니티 토론에서는 운영 규모가 강조되었으며, 특히 코어당 12개의 샌드박스 비율이 매우 인상적이라는 평가가 많았습니다.

"단일 규모 단위 내에서 이 플랫폼은 약 160개의 CPU 노드, 3만 개의 코어, 약 250 TB의 DRAM을 포괄하며... 최대 동시성은 약 38만 개에 달하고 생성 속도는 초당 5,000개 인스턴스를 초과합니다."

또한 보안 전문가들은 모델의 성능이 향상됨에 따라 모델이 환경을 탈출하지 못하도록 방지하는 안전하고 격리된 샌드박스의 필요성이 안전한 AI 배포를 위한 핵심 요구 사항이 되고 있다고 강조합니다.