Mapika/decider
A family of System One-style models fine-tuned from Qwen3.5, designed for one-pass typed decisions with calibrated probabilities.
해결하는 문제
기존 언어 모델은 자유 형식 텍스트를 생성합니다. 고정된 옵션 집합 중에서 결정이 필요할 때(티켓 라우팅, 의도 분류, 예/아니오 답변 등) 일반적으로 생성된 텍스트를 파싱해야 하며, 이는 오류가 발생하기 쉽고 신뢰도 보정이 잘 되지 않습니다. decider는 텍스트 생성을 완전히 없앱니다. 상태와 일련의 유형화된 질문을 읽고, 단일 전방 패스에서 각 질문에 대해 허용된 옵션에 대한 확률 분포를 반환합니다. 디코딩도, 파싱도, 정의한 옵션 외의 출력도 없습니다.
작동 방식
모델은 상태(컨텍스트 또는 입력)와 일련의 유형화된 질문을 받습니다. 각 질문에는 고정된 답변 집합이 있습니다: 선택(2255개 옵션), 점수(210개의 설명된 수준), 또는 노울(예의 확률). 단일 전방 패스가 각 질문에 대한 분포를 생성합니다. 모델은 공개 데이터 세트와 로컬 Qwen3.5-27B 모델의 교사 레이블 데이터 혼합으로 훈련되었으며, 이 프로젝트는 "System One" 모델 클래스(TypeSafe AI의 Jev 등)의 독립적인 오픈 재현이며, Jev에서 증류하지 않았습니다. 패키지는 decide 메서드가 있는 Decider 클래스, HTTP 서버(decider.serve), llama.cpp용 GGUF 로딩, 대규모 서빙을 위한 vLLM 통합을 제공합니다. 여러 모델 크기(0.8B, 2B, 4B, 12B, 31B, 35B)와 변형(일부는 이미지 처리)이 Hugging Face에 공개되어 있으며, 각각 구성 가능한 유형별 온도와 선택적 체크포인트가 있습니다.
대상 사용자
언어 모델에서 빠르고 보정된 결정이 필요한 개발자와 연구자——라우팅, 분류, 평가, 게임 플레이(Tetris 및 Pong 데모에 표시됨), 또는 텍스트를 생성하지 않고 옵션별 확률을 원하는 모든 애플리케이션을 위해. 이 프로젝트는 CPU, Apple Silicon(MPS), CUDA GPU, llama.cpp(GGUF), 심지어 커뮤니티 포트를 통한 Snapdragon X Elite NPU에서도 실행되므로 노트북부터 데이터 센터 GPU까지 모든 환경에 적합합니다.
주요 특징
- 보정된 확률로 원패스 유형화된 결정——텍스트 생성도 파싱도 없음.
- 0.8B에서 35B 파라미터의 모델, 이미지 기반 결정을 위한 비전-언어 변형 포함.
- 강력한 리더보드 순위: decider-4b v2는 JevBench에서 7위, decider-chat-gemma4-31b는 Decision Index에서 2위.
- 유연한 배포: CPU, MPS, CUDA, llama.cpp를 통한 GGUF, vLLM, 커뮤니티 기여를 통한 NPU까지 지원.
- System One 모델 클래스의 독립적인 오픈 재현, 훈련 코드와 데이터 혼합이 공개적으로 제공됩니다.
관련
- Dispatch
- 프로젝트
- 프로젝트
- Dispatch
- Dispatch