Kimi K3-256k 釋出:具成本效益的高上下文編碼
Kimi 推出了 K3-256k,這是其旗艦 K3 編碼模型的專門版本,旨在降低不需要完整 100 萬令牌上下文視窗的開發者的配額消耗。對於 256k 限制內的任務,K3-256k 能提供與完整 K3 模型相同的結果,同時僅消耗約一半的配額。
Kimi 編碼模型比較
Kimi 目前提供兩個主要模型系列——K3 與 K2.7 Code——可透過四個不同的模型 ID 使用。K3 系列是旗艦產品,擁有 2.8 兆參數。
| 模型 ID | 模型版本 | 上下文視窗 | 主要特徵 | 可用性 |
|---|---|---|---|---|
k3 |
Kimi K3 | 最高 1M | 旗艦能力;支援影像與影片輸入。 | Moderato+ (1M for Allegretto+) |
k3-256k |
Kimi K3 | 256k | 與 K3 結果相同;降低配額消耗;僅支援影像輸入。 | Moderato+ |
kimi-for-coding |
Kimi K2.7 Code | 256k | 針對日常開發與程式碼補全進行最佳化。 | 所有會員 |
kimi-for-coding-highspeed |
K2.7 Code HighSpeed | 256k | 比標準 K2.7 快 5–6 倍;配額使用量為 3 倍。 | Allegretto+ |
上下文管理與切換
在 K3 的 256k 與 1M 版本之間切換,可讓開發者在成本與容量之間取得平衡。Kimi 支援「可彈性擴展的上下文」工作流程,使用者可根據當前會話的即時需求調整上下文視窗大小。
從 K3 (1M) 切換至 K3-256k
在降低上下文視窗時,使用者必須確保當前會話未超過 256k 令牌。若超過,像 Kimi Code CLI 或 Claude Code 等工具會執行「壓縮」操作。Kimi 建議在切換前手動執行壓縮指令,以保留關鍵任務點並維持會話完整性。
從 K3-256k 切換至 K3 (1M)
使用者可直接從 256k 版本切換至 1M 版本,且不會影響快取。這對於已接近 256k 限制且需要額外空間、但不想透過壓縮失去資訊的會話而言,是理想的選擇。
快取失效
切換模型 ID 或變更 reasoning_effort 設定會使現有的上下文快取失效。這會迫使模型重新填充上下文,導致令牌消耗增加,並可能出現暫時性的使用量峰值。為了減少開銷,Kimi 建議在切換模型時開啟新會話,或在整個會話期間保持一致的推理力度。
技術設定與 API 整合
Kimi Code API 支援 OpenAI 與 Anthropic 兩種協議。若要在第三方工具中使用 K3,開發者必須手動將上下文視窗設定為 1048576,以使用完整的 1M 容量,因為許多工具預設的視窗較小。
推理力度映射
K3 支援三種推理力度。透過第三方工具整合時,力度對應如下:
- Max:由
ultra、max或xhigh觸發。 - High(預設):由
high、medium或null/undefined觸發。 - Low:由
low、minimum或light觸發。 - Disabled:由
none觸發(導向 K2.6)。
社群洞見與分析
產業觀察者與 Hacker News 上的使用者指出,K3-256k 的推出反映了基於上下文長度分層定價的更廣泛趨勢,類似於 OpenAI 的實作。
「大量活躍的上下文會提升每個令牌的成本(發出的 FLOPs 與每個輸出令牌讀取的位元組),因此將此成本轉嫁給使用者是合理的。」
部分使用者強調 256k 限制的實用性,指出大多數程式編寫任務很少超過此門檻,使得 1M 視窗成為「奢侈」但在日常開發中常不必要的功能。另一些人則指出,以較低成本提供高效能模型以與美國 AI 研究實驗室競爭的策略重要性。