MiniCPM-V 4.6 릴리즈 노트 / 새로운 소식

MiniCPM-V 4.6 릴리즈 노트 / 새로운 소식

MiniCPM-V 4.6은 13억 파라미터 비전 모델로, 스크린샷, PDF, 비디오와 같은 시각 데이터를 로컬 AI 에이전트가 처리하도록 설계되었습니다. 대형 멀티모달 모델의 VRAM 부담이나 호스팅 API의 지연 시간을 피할 수 있습니다. 엣지 배포와 토큰 효율성을 우선시하여, 빈번한 툴 호출과 시각 입력으로 인해 컨텍스트 예산이 소진되는 에이전트 루프에 적합합니다.

모델 아키텍처 및 사양

MiniCPM-V 4.6은 SigLIP 2-400 비전 인코더와 Qwen 3.5 0.8B 언어 모델을 결합합니다. 주요 기술 사양은 다음과 같습니다:

  • 파라미터 수: 총 13억 파라미터.
  • 라이선스: Apache 2.0 (완전 오픈 가중치).
  • 컨텍스트 윈도우: 최대 262K 토큰, 단일 이미지, 다중 이미지 및 비디오 입력 지원.
  • 배포 지원: vLLM, SGLang, Llama CPP, Ollama와 호환되며, 표준 포맷(예: GGUF)으로 양자화된 변형 제공.
  • 모바일 지원: iOS, Android, Harmony OS용 예제 앱 및 온디바이스 적응 코드 포함.

성능 및 지능 벤치마크

Artificial Analysis Intelligence Index에서 MiniCPM-V 4.6은 13점을 기록했으며, 이는 GPT-4o 지능의 약 1/4 수준입니다. 크기에도 불구하고 Ministral 3B 모델이나 Qwen 3.5 0.8B 모델 등 2배 이상의 모델보다 뛰어난 성능을 보입니다.

시각 추론에서는 MMU Pro 벤치마크에서 20억 파라미터 이하의 모든 오픈 가중치 모델 중 가장 높은 점수를 받았습니다. Gemini과 같은 최첨단 모델을 고정밀 프로덕션 환경이나 복잡한 브라우저 작업에 대체하려는 목적은 아니지만, 하위 에이전트 작업에 매우 효율적인 대안을 제공합니다.

토큰 효율성 및 시각 압축

토큰 효율성은 MiniCPM-V 4.6의 주요 장점이며, 특히 모든 시각 입력이 컨텍스트 예산을 소모하는 에이전트 워크플로에 유리합니다.

  • 토큰 소비 감소: Artificial Analysis Intelligence Index 스위트에서 약 540만 출력 토큰을 사용하며, 이는 비추론 Qwen 3.5 0.8B보다 약 19배, 추론 버전보다 43배 적은 토큰 수입니다.
  • 유연한 압축 모드: 추론 시 두 가지 시각 토큰 압축 모드 중 선택 가능:
    • 16배 압축: 비디오 처리와 최대 효율에 최적화.
    • 4배 압축: 세밀한 이미지 디테일 및 OCR 작업에 최적화.

기능 및 테스트

MiniCPM-V 4.6은 여러 시각 작업에서 강력한 능력을 보여주지만, 구성에 따라 성능 차이가 있습니다:

시각 질문 응답(VQA) 및 OCR

  • 문서 분석: 인보이스와 주문 영수증에서 특정 항목(예: "Coke Zero") 및 해당 비용을 추출할 수 있습니다.
  • 필기 인식: 손글씨 의료 영수증에서 약물명과 용량(밀리그램)을 성공적으로 추출합니다. 이는 작은 비전 모델에게 전통적으로 어려운 작업입니다.
  • 디테일 해상도: 4배 다운샘플링 모드를 사용하면 OCR 및 세밀한 이미지 분석 결과가 16배 모드에 비해 크게 향상됩니다.

비디오 이해

  • 비디오에서 일반적인 행동(예: 축구 경기)을 설명하고 팀 이름과 공의 움직임을 식별할 수 있습니다. 다만, 매우 구체적인 세부 사항이나 정확한 득점 등은 일부 경우에 어려움을 겪을 수 있습니다.

사고 모드 vs 비사고 모드

  • 비사고: 빠르고 기본적인 응답.
  • 사고(Chain-of-Thought): 더 자세한 설명과 향상된 수학적 추론을 제공(예: 영수증의 비용을 항목별로 나열 후 합산). 사고 모드는 비디오 이해 작업의 설명 정확도도 높입니다.

에이전트를 위한 사용 사례 요약

MiniCPM-V 4.6은 더 큰 에이전트 시스템 내에서 특화된 비전 컴포넌트로 활용하는 것이 최적입니다. 모든 텍스트와 비전을 대형 멀티모달 모델에 맡기는 대신, 일반 추론을 위한 경량 텍스트 모델을 사용하고 이미지나 비디오가 필요할 때만 MiniCPM-V 4.6을 호출합니다. 이렇게 하면 로컬 배포 시 VRAM을 절약하고 지연 시간을 줄일 수 있습니다.

SUMMARY: MiniCPM-V 4.6은 엣지 배포와 에이전트 워크플로를 위해 설계된 13억 파라미터 비전 모델로, 높은 토큰 효율성과 유연한 시각 토큰 압축을 특징으로 합니다.

TITLE: MiniCPM-V 4.6 릴리즈 노트 / 새로운 소식

Sources