XHToken/Spark-X2.6

解決する課題

Spark-X2.6-4Bは、スマートフォンやノートPCなどのデバイス上で直接動作するように構築された小型言語モデルです。クラウドサーバーに依存することなく、ツールの使用、多段階の計画立案、ソフトウェアエンジニアリングといった現実世界のエージェントタスクを処理できます。限られたメモリと電力の中でパフォーマンスを両立させ、オンデバイスで動作する高性能なAIを提供することを目的としています。

仕組み

前モデルであるSpark-X2.5-4Bと同じアーキテクチャを維持しつつ、より優れたポストトレーニングを通じて機能を向上させています。これにより、コーディング、エージェントとしての挙動、長文脈の理解、多言語スキル、推論能力が強化されました。none、low、highの3つの設定可能な思考レベルを提供しており、開発者は推論の深さとレイテンシおよび推論コストのトレードオフを調整できます。このモデルは、Transformers、SGLang、vLLM、MLX、llama.cpp、Ollama、LM Studio、Unslothなど、多くの推論エンジンで動作します。

対象ユーザー

オンデバイスAIアプリケーションを構築する開発者やチーム、特にリソースが制限されたハードウェア上で、能力を犠牲にすることなくエージェントのような挙動（ツールの使用、計画立案）を必要とする場合に適しています。また、Llama-Factoryを使用してモデルを微調整したい研究者にも適しています。

ハイライト

• 同規模のオープンソースモデルの中で最先端の性能を誇り、時には約90億パラメータのモデルに匹敵または凌駕します。
• SGLangで提供する場合、最大1,048,576トークンのコンテキスト長をサポートします（十分なメモリが必要です）。
• none、low、highの3段階で思考予算を制御可能です。
• Hugging Face、ModelScope、Ollamaなどのプラットフォームで利用可能であり、SGLang/vLLM向けにOpenAI互換のAPIを提供しています。
• Apache 2.0ライセンス。