Mapika/decider

A family of System One-style models fine-tuned from Qwen3.5, designed for one-pass typed decisions with calibrated probabilities.

解決する問題

従来の言語モデルは自由形式のテキストを生成します。固定された選択肢の中から決定が必要な場合(チケットのルーティング、意図の分類、はい/いいえの回答など)、通常は生成されたテキストを解析する必要があり、エラーが発生しやすく、信頼度の校正も不十分です。decider はテキスト生成を完全に廃止します。状態と一連の型付き質問を読み取り、単一のフォワードパスで各質問に対して許可された選択肢上の確率分布を返します。デコードも解析も不要で、定義した選択肢以外の出力はありません。

仕組み

モデルは状態(コンテキストまたは入力)と一連の型付き質問を受け取ります。各質問には固定された回答セットがあります:選択(2 から 255 の選択肢)、スコア(2 から 10 の記述されたレベル)、またはノウル(はいの確率)。単一のフォワードパスで各質問の分布が生成されます。モデルは公開データセットとローカルの Qwen3.5-27B モデルからの教師ラベル付きデータの混合でトレーニングされており、このプロジェクトは「System One」モデルクラス(TypeSafe AI の Jev など)の独立したオープンな再現であり、Jev からの蒸留はありません。パッケージは decide メソッドを持つ Decider クラス、HTTP サーバー(decider.serve)、llama.cpp 用の GGUF ロード、大規模サービング用の vLLM との統合を提供します。複数のモデルサイズ(0.8B、2B、4B、12B、31B、35B)とバリアント(一部は画像を処理)が Hugging Face で公開されており、それぞれに設定可能なタイプ別温度とオプションのチェックポイントがあります。

対象ユーザー

言語モデルから高速で校正された決定を必要とする開発者と研究者——ルーティング、分類、評価、ゲームプレイ(Tetris と Pong のデモに示されている)、またはテキストを生成せずにオプションごとの確率を望むあらゆるアプリケーション向けです。このプロジェクトは CPU、Apple Silicon(MPS)、CUDA GPU、llama.cpp(GGUF)、さらにはコミュニティポートを介した Snapdragon X Elite NPU でも動作するため、ラップトップからデータセンター GPU まであらゆる環境に適しています。

ハイライト

  • 校正された確率によるワンパスの型付き決定——テキスト生成も解析も不要。
  • 0.8B から 35B パラメータのモデル。画像ベースの決定用の視覚言語バリアントも含む。
  • 強力なリーダーボード順位:decider-4b v2 は JevBench で 7 位、decider-chat-gemma4-31b は Decision Index で 2 位。
  • 柔軟なデプロイ:CPU、MPS、CUDA、llama.cpp 経由の GGUF、vLLM、さらにはコミュニティ貢献による NPU もサポート。
  • System One モデルクラスの独立したオープンな再現。トレーニングコードとデータ混合が公開されています。

関連

  • Dispatch
  • プロジェクト
  • プロジェクト
  • Dispatch
  • Dispatch