Tencent Hy4 Preview Release
Tencent 已經發佈了 Hy4 Preview,這是一款專為高容量推理和長文本處理設計的下一代大型語言模型 (LLM)。該模型總共擁有 7700 億個參數,每個 token 的激活參數為 490 億個,並支持超過 100 萬個 token 的上下文窗口。
Recursive Self-Improvement in Training
Hy4 Preview 的發佈標誌著模型開發過程中的一個重要里程碑,因為它實現了遞歸自我改進循環。模型首次在多個關鍵維度上為自身的優化做出了貢獻:
- Training Methods: 自動化優化訓練協議。
- Data Strategies: 精煉數據選擇和策劃過程。
- Evaluation Frameworks: 改進模型自身的測試和驗證指標。
- Low-level Operators: 優化底層計算算子。
通過提出方法、進行實驗並根據結果進行迭代,Hy4 Preview 建立了一個反饋循環,其中產生的代碼、日誌和反饋為隨後的探索提供了資訊。
Performance and Market Traction
早期採用數據顯示出對該模型的顯著興趣。根據社群報告,Hy4 在 OpenRouter 上獲得了快速的關注,在發佈後的幾天內處理了數萬億個 token。這種高使用量部分歸功於其具備競爭力的定價,特別是較低的緩存成本(約 5%),而其他提供商通常的緩存成本為 10-20%。
Community Feedback and Technical Critiques
圍繞此次發佈的使用者體驗和技術討論突出了關於性能和可訪問性的幾個關鍵點:
Model Capabilities
一些使用者者報告了對前代模型 Hy3 的積極體驗,指出其作為通用型代理模型 (agentic model) 的有效性。然而,對於 Hy4 作為代理在編碼能力的初步反饋是褒貶不一的,部分使用者報告其在編碼任務中的實用性有限。
Infrastructure and Accessibility
有報告指出目前的託管提供商存在穩定性問題,包括超時和速率限制 (rate limiting),這阻礙了基準測試 (benchmarking) 的工作。此外,一些美國的使用者報告了在訪問相關工具如 CodeBuddy 時遇到問題。
Documentation and Presentation
技術觀察者批評了官方發佈材料中的「圖表犯罪 (chart crimes)」現象。具體來說,使用者注意到部落格文章中的柱狀圖似乎具有誤導性,較高的數值並不始終與柱狀圖的高度一致,且圖表中的模型排序並不遵循邏輯排名。
Open Source vs. Open Weights
社群內對於 Tencent 使用的術語存在持續的爭論。雖然發佈被描述為「開源 (open-sourced)」,但批評者認為這是一個「開權重 (open weight)」模型,而非真正的開源,因為並未提供訓練過程和數據的源代碼。
Open weight is not the same as open source. The current ""open weight"" models are just opaque binary blobs you can run on your own computer instead of through a web API.
Comparison to Other Models
雖然一些使用者將 Hy4 的行為與 DeepSeek 模型進行比較,指出其在性能和通用代理能力方面的相似性,但該模型在公司自身基準測試中的定位,表明其正試圖在開權重模型領域挑戰當今的前沿水平。
Sources
相關
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch