Tencent-Hunyuan/Hy3
Hy3 (295B A21B), a leading reasoning and agent model in its size, with great cost efficiency.
何を解決するか
Hy3は、巨大なフラッグシップモデルの代替として、高性能かつコスト効率の高い選択肢を提供することを目的としています。特に、幻覚、不安定なツールコール形式、および長時間のマルチターン会話中に意図や文脈が失われるといった一般的なLLMの失敗を解決します。
動作方法
Hy3は295BパラメータのMixture-of-Experts(MoE)モデルであり、アクティブパラメータは21Bです。効率性とパフォーマンスを向上させるために、Multi-Token Prediction(MTP)レイヤーを採用しています。高品質なデータを用いたスケーリングされたポストトレーニングと、Supervised Fine-Tuning(SFT)およびReinforcement Learning(RL)の共同最適化により、推論力と信頼性が強化されています。
対象ユーザー
開発者やプロダクトチーム向けに、コーディング、フロントエンド設計、財務モデル作成、オフィス作業、ゲーム開発などの分野で生産性アプリケーションを開発している人、および安定したツールコールと長文脈保持が可能なモデルが必要な人を対象としています。
主な特徴
- 効率的なアーキテクチャ: MoE設計で、アクティブパラメータは21B、コンテキスト長は256K。
- プロダクションレベルの信頼性: 幻覚率が12.5%から5.4%に低下し、ツールコールの安定性が向上。
- エージェント機能: CI/CD、データストレージ、フロントエンド開発において特に優れた推論力とエージェントタスク性能。
- 柔軟なデプロイ: vLLMおよびSGLangを介してOpenAI互換APIでデプロイ可能。
- 推論モード: タスクの複雑さに応じて調整可能な推論努力(no_think、low、high)を提供。
関連
- Dispatch
- Dispatch
- Dispatch
- プロジェクト
- Dispatch