DeepSeek-V4.1-Flash 릴리스 노트
DeepSeek-V4.1-Flash는 높은 처리량과 낮은 추론 비용을 위해 설계된 다중모달 모델입니다. 새로운 비대칭 아키텍처를 도입하여 입력 처리(프리필)와 출력 생성(디코딩)을 분리함으로써, 토큰당 활성화되는 파라미터 수를 크게 줄일 수 있습니다.
아키텍처 혁신
DeepSeek-V4.1-Flash는 인과 인코더-디코더(Causal Encoder-Decoder, CED) 아키텍처를 사용합니다. 이 40층의 트랜스포머는 20층의 인과 인코더와 20층의 디코더로 구성되어 있습니다.
주요 기술 사양은 다음과 같습니다:
- 파라미터 수: 552B 파라미터의 전문가 혼합(Mixture-of-Experts, MoE) 모델입니다.
- 활성 파라미터: CED 설계 덕분에 프리필(입력) 단계에서는 8B, 디코딩(출력) 단계에서는 16B의 활성 파라미터만 사용됩니다.
- KV 캐시 최적화: 전역 KV 캐시 크기는 토큰당 890바이트로, 이전 DeepSeek-V4-Flash 세대의 메모리 요구량의 약 1/4 수준입니다. 이로 인해 HBM 사용량은 1/4, SSD 저장 요구량은 1/8로 감소합니다.
- 다중모달 지원: 모델은 내장된 시각 이해 기능을 갖추고 있으며, 비전 능력을 직접 Flash 아키텍처에 통합했습니다.
성능 및 배포
DeepSeek-V4.1-Flash는 DeepSeek API(모델 이름: deepseek-flash)를 통해 이용 가능하며, 허깅페이스에 오픈웨이트로도 공개되었습니다.
추론 및 비용
- 이해 노력: 모델은 조절 가능한 추론 노력 설정(정수 1~100)을 지원하여, 추론 비용을 늘리거나 줄여 정확도를 조절할 수 있습니다.
- 가격 정책: 수요 균형을 위해 피크 시간과 비피크 시간 가격을 도입하였으며, 비피크 시간 가격은 피크 시간 가격의 50%입니다.
- 캐시 히트: 아키텍처의 효율성으로 인해 캐시 히트 비용이 매우 낮아, 캐시된 컨텍스트에 크게 의존하는 에이전트 워크로드의 비용을 크게 줄입니다.
로컬 배포를 위한 하드웨어 요구사항
커뮤니티 논의에 따르면, 552B 파라미터 수로 인해 로컬 배포가 어렵다는 점이 지적되었습니다. 사용자들은 4비트 양자화(q4)를 사용할 경우 모델을 로드하기 위해 256GB 이상의 RAM/VRAM이 필요할 것으로 보이며, 이는 Threadripper 시스템과 4채널 메모리 또는 멀티 GPU 클러스터와 같은 고성능 하드웨어가 필요할 가능성이 높다고 언급했습니다.
커뮤니티 인사이트 및 비교
사용자와 연구자들은 V4.1-Flash 릴리스에 대해 몇 가지 주요 통찰을 제시했습니다:
"모든 모델 릴리스마다 새로운 놀라운 아이디어들이 가득 차 있고, 어떻게든 그들을 거의 최전선 규모로 훈련시키는 데 성공합니다."
벤치마크 결과는 강력한 성능을 보여주며, 특히 에이전트 점수와 Cyberbench에서 뛰어난 성과를 기록했습니다. 그러나 일부 사용자는 벤치마크가 항상 실제 지능과 완벽하게 일치하지는 않을 수 있다고 경고했습니다. GPT-5.6 Sol 및 Gemini 3.8 Flash와의 비교를 통해 V4.1-Flash는 자동화 및 코딩 분야에서 매우 경쟁력이 있지만, GPQA 다이아몬드와 같은 특정 고수준 추론 벤치마크에서는 뒤처질 수 있다고 지적했습니다.
또한 일부 사용자는 모바일 앱의 언어 설정 문제를 보고하며, 영어로 프롬프트를 주었음에도 불구하고 모델이 가끔 중국어로 응답하는 현상이 발생한다고 지적했습니다.
Sources
관련
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch