중국 오픈소스 AI 생태계의 아키텍처 선택: DeepSeek R1에서 하드웨어‑우선, MoE‑주도 환경으로
TL;DR – DeepSeek 모멘트 이후에 무슨 일이 있었나요?
DeepSeek R1의 오픈소스 릴리스 1년 후, 중국 AI 커뮤니티는 가장 큰 단일 모델 성능을 추구하던 것에서 유연하고 비용 효율적이며 하드웨어를 고려한 AI 시스템 구축으로 전환했습니다.
- Mixture‑of‑Experts (MoE) 가 기본 아키텍처가 되었습니다 – 요청당 일부 “전문가”만 활성화함으로써 거대한 모델을 저렴하게 운영할 수 있게 합니다.
- 멀티모달 경쟁이 폭발했습니다 – 텍스트‑투‑이미지, 비디오, 오디오, 3‑D, 에이전트 모델이 동시에 공개되었으며, 각각 전체 툴체인을 포함합니다.
- 소형 모델 (≤30 B) 이 급증했습니다 – 로컬에서 쉽게 실행·파인튜닝·비즈니스 워크플로에 삽입할 수 있으며, 대형 MoE 모델은 증류용 “교사” 네트워크 역할을 합니다.
- Apache 2.0 / MIT 라이선스가 현재 주류를 이루고 있습니다 – 관대한 조건이 법적 마찰을 없애 상업적 채택을 가속화합니다.
- 하드웨어‑우선 사고방식 – 릴리스는 이제 국내 칩(Huawei Ascend, Cambricon, Kunlun 등)에 맞춘 양자화, 추론 및 서빙 스택을 포함하고, 학습 파이프라인도 공개됩니다.
These trends indicate that the competitive edge is moving from raw model size to system design, deployment efficiency, and open‑source ecosystem integration.
1. MoE – 선택된 아키텍처
"강력한 추론은 열려 있고, 재현 가능하며, 실제로 엔지니어링될 수 있다." – DeepSeek R1 팀
- Why MoE? 거대한 파라미터 풀을 여러 전문가 로 나누어 희소하게 활성화합니다. 단일 추론은 전체 연산량의 일부만 사용해 비용을 크게 절감하면서도 100 B‑플러스 모델의 역량을 유지합니다.
- Real‑world impact: Kimi K2, MiniMax M2, Qwen‑3 와 같은 모델이 MoE 를 채택해 다음을 가능하게 했습니다:
- 요청당 연산량 동적 확장 (간단한 질의 vs. 복잡한 추론).
- 이기종 하드웨어에 배포 – 저가 엣지 디바이스도 적은 전문가만 사용해 동일 모델을 실행할 수 있습니다.
- Strategic outcome: 중국은 절대적인 벤치마크 최고점보다 지속 가능한 성능을 우선시했으며, 제한된 연산 예산과 수출 통제 압력에 맞추었습니다.
2. 모달리티 무기 경쟁
"비디오 생성 도구, 3‑D 컴포넌트, 증류 데이터셋, 에이전트 프레임워크가 동시에 등장하면서 재사용 가능한 시스템‑레벨 역량이 강조되었습니다." – 블로그 작성자
| 모달리티 | 주목할 만한 오픈 릴리스 (2025‑2026) | 주요 특징 |
|---|---|---|
| 텍스트‑투‑이미지 / 이미지‑투‑비디오 | Step‑1X‑Edit, Hunyuan Video | 고품질 생성, 편집 API, 엣지‑투‑클라우드 파이프라인 |
| 오디오 / 음성‑투‑음성 | Step‑Audio‑R1.1, Step‑Audio‑R1 | 최신 TTS 및 음성 변환, 오픈 평가 스위트 |
| 3‑D 및 가상 세계 | Hunyuan 3D, GLM‑Image (vision‑augmented) | 메시 생성, 텍스처 합성, 실시간 렌더링 지원 |
| 에이전트 / 도구‑사용 | Various open‑source agent frameworks (e.g., LangChain‑China) | 통합 도구 호출, 메모리 및 계획 모듈 |
The community stopped publishing just weights. Every release bundled:
- Inference scripts for multiple runtimes (ONNX, TensorRT, FastDeploy).
- Dataset pipelines for fine‑tuning across modalities.
- Evaluation harnesses (e.g., multimodal benchmarks, human‑in‑the‑loop tests).
3. 소형 모델 – 워크호스 계층
"제한된 연산 환경이나 엄격한 컴플라이언스 요구사항이 있는 경우, 이러한 모델이 장기 운영에 훨씬 더 적합했습니다."
- Parameter range: 0.5 B – 30 B.
- Why they matter:
- 단일 GPU 혹은 고성능 CPU에서도 쉽게 실행 가능.
- 파인튜닝 속도가 빨라 제품迭代이 신속.
- 컴플라이언스 위험 감소 (공격 표면 축소, 감사 용이).
- Ecosystem pattern: Large MoE models (100 B – 700 B) serve as teacher nets. Knowledge is distilled into dozens of compact models, creating a pyramid:
- Top: Massive MoE models – research showcase, capability ceiling.
- Middle: 30 B‑70 B distilled models – high‑quality APIs for SaaS.
- Base: ≤30 B models – on‑premise, edge, and embedded applications.
- Community metric: The share of small‑model downloads in the monthly Hugging Face summary grew from ~35 % (early 2025) to >55 % (mid 2026).
4. 라이선스 자유화 – Apache 2.0이 장악
"관대한 라이선스는 모델을 프로덕션에 사용·수정·배포하는 데 따른 마찰을 크게 낮췄습니다."
- Before DeepSeek R1: A mix of custom, restrictive licenses (e.g., CC‑BY‑NC‑SA). Legal uncertainty slowed corporate adoption.
- Afterward: Apache 2.0 and MIT became the de‑facto defaults for Chinese open‑source AI models.
- Effect:
- 기업이 모델을 독점 제품에 임베드할 때 재라이선스 없이 가능.
- 클라우드 제공업체가 국내 인프라에서 “model‑as‑a‑service” 를 제공할 때 개별 모델 계약 협상이 필요 없음.
- 국경을 넘는 학술 협력이 보다 원활해짐 (GPL, BSD 등과의 라이선스 호환성).
- Data point: In the “Open‑Source Heatmap” the proportion of Apache‑licensed releases jumped from 12 % (Jan 2025) to 68 % (Oct 2026).
5. 모델‑우선에서 하드웨어‑우선으로
"주된 목표는 단순히 가중치를 다운로드 가능하게 하는 것이 아니라, 모델이 목표 국내 하드웨어에서 바로 실행될 수 있도록 보장하는 것이었습니다."
5.1 추론‑우선 번들
- Day‑Zero hardware support – DeepSeek‑V3.2‑Exp shipped with ready‑to‑run binaries for Huawei Ascend and Cambricon chips.
- Quantization pipelines – Models released with INT4/INT8 versions tuned for specific ASICs, dramatically reducing latency and power.
- Serving stacks:
- Mooncake (Moonshot AI) – open‑source pre‑fill/decoding separation, GPU‑/CPU‑aware scheduling.
- FastDeploy 2.0 (Baidu) – extreme quantization + cluster‑level optimisations.
- Qwen ecosystem (Alibaba) – end‑to‑end CI/CD from model repo → Docker image → cloud deployment.
5.2 학습‑측 투명성
- Ant Group – Ling: Documented a 5 % cost reduction per trillion tokens using domestic AI chips.
- Baidu – Qianfan‑VL: Published the full topology of a 5 000‑node Kunlun P800 cluster, including pipeline parallelism strategies.
- Zhipu – GLM‑Image & Telecom – TeleChat3: Both announced entirely domestic‑chip training, signaling that China’s chip ecosystem now supports the full training stack for trillion‑token models.
5.3 전략적 함의
- Resilience to export controls: By co‑optimising models and chips, Chinese firms reduce dependence on NVIDIA/H100‑class GPUs.
- Ecosystem lock‑in: Open‑source serving tools (Mooncake, FastDeploy) are tightly coupled with domestic hardware SDKs, creating a virtuous cycle of adoption.
- Remaining bottlenecks: Reports of compute scarcity (e.g., Zhipu limiting sign‑ups) show that hardware supply still lags behind demand, a risk for scaling.
6. 재구성 진행 중 – 새로운 경쟁 구도
"중국 기업들은 이제 고립된 모델을 최적화하지 않습니다. 대신 오픈소스 세계에 적합한 전체 생태계를 구축하기 위한 독특한 아키텍처 경로를 추구하고 있습니다."
- System‑level competition has overtaken raw benchmark races. Success is measured by:
- Deployment cost per query (USD/1 M tokens).
- Time‑to‑market for fine‑tuned variants (days vs. weeks).
- Hardware‑agnostic portability (single repo works on Ascend, Cambricon, and NVIDIA).
- Open‑source as strategic asset: By publishing not just weights but the entire stack (datasets, training scripts, inference engines), firms create network effects that attract developers, startups, and academia.
- Future outlook (2026+):
- Hybrid MoE‑Quantized models that dynamically switch precision per expert.
- Edge‑centric agents running on low‑power ASICs for real‑time decision making.
- Cross‑modality distillation pipelines that compress a multimodal teacher into a unified small model.
연구자, 개발자, 정책 입안자를 위한 시사점
- Focus on system design – When contributing to open‑source AI, prioritize reproducible pipelines, hardware‑aware quantization, and serving scripts.
- Leverage small models – They dominate real‑world deployments; distillation from large MoE teachers is a proven path to high quality.
- Watch licensing – Apache 2.0 and MIT will remain the safest choices for commercial integration.
- Monitor hardware policy – Export‑control shifts will continue to reshape where and how large‑scale training occurs.
- Collaborate across modalities – Multimodal open‑source projects are converging; cross‑modality datasets and evaluation suites are becoming community standards.
The DeepSeek Moment sparked a re‑architecture of China’s AI ecosystem: from isolated, monolithic models to a layered, hardware‑first, open‑source stack that balances capability, cost, and strategic independence.