Kimi K3-256k 釋出:具成本效益的高上下文編碼

Kimi 推出了 K3-256k,這是其旗艦 K3 編碼模型的專門版本,旨在降低不需要完整 100 萬令牌上下文視窗的開發者的配額消耗。對於 256k 限制內的任務,K3-256k 能提供與完整 K3 模型相同的結果,同時僅消耗約一半的配額。

Kimi 編碼模型比較

Kimi 目前提供兩個主要模型系列——K3 與 K2.7 Code——可透過四個不同的模型 ID 使用。K3 系列是旗艦產品,擁有 2.8 兆參數。

模型 ID 模型版本 上下文視窗 主要特徵 可用性
k3 Kimi K3 最高 1M 旗艦能力;支援影像與影片輸入。 Moderato+ (1M for Allegretto+)
k3-256k Kimi K3 256k 與 K3 結果相同;降低配額消耗;僅支援影像輸入。 Moderato+
kimi-for-coding Kimi K2.7 Code 256k 針對日常開發與程式碼補全進行最佳化。 所有會員
kimi-for-coding-highspeed K2.7 Code HighSpeed 256k 比標準 K2.7 快 5–6 倍;配額使用量為 3 倍。 Allegretto+

上下文管理與切換

在 K3 的 256k 與 1M 版本之間切換,可讓開發者在成本與容量之間取得平衡。Kimi 支援「可彈性擴展的上下文」工作流程,使用者可根據當前會話的即時需求調整上下文視窗大小。

從 K3 (1M) 切換至 K3-256k

在降低上下文視窗時,使用者必須確保當前會話未超過 256k 令牌。若超過,像 Kimi Code CLI 或 Claude Code 等工具會執行「壓縮」操作。Kimi 建議在切換前手動執行壓縮指令,以保留關鍵任務點並維持會話完整性。

從 K3-256k 切換至 K3 (1M)

使用者可直接從 256k 版本切換至 1M 版本,且不會影響快取。這對於已接近 256k 限制且需要額外空間、但不想透過壓縮失去資訊的會話而言,是理想的選擇。

快取失效

切換模型 ID 或變更 reasoning_effort 設定會使現有的上下文快取失效。這會迫使模型重新填充上下文,導致令牌消耗增加,並可能出現暫時性的使用量峰值。為了減少開銷,Kimi 建議在切換模型時開啟新會話,或在整個會話期間保持一致的推理力度。

技術設定與 API 整合

Kimi Code API 支援 OpenAI 與 Anthropic 兩種協議。若要在第三方工具中使用 K3,開發者必須手動將上下文視窗設定為 1048576,以使用完整的 1M 容量,因為許多工具預設的視窗較小。

推理力度映射

K3 支援三種推理力度。透過第三方工具整合時,力度對應如下:

  • Max:由 ultramaxxhigh 觸發。
  • High(預設):由 highmediumnull/undefined 觸發。
  • Low:由 lowminimumlight 觸發。
  • Disabled:由 none 觸發(導向 K2.6)。

社群洞見與分析

產業觀察者與 Hacker News 上的使用者指出,K3-256k 的推出反映了基於上下文長度分層定價的更廣泛趨勢,類似於 OpenAI 的實作。

「大量活躍的上下文會提升每個令牌的成本(發出的 FLOPs 與每個輸出令牌讀取的位元組),因此將此成本轉嫁給使用者是合理的。」

部分使用者強調 256k 限制的實用性,指出大多數程式編寫任務很少超過此門檻,使得 1M 視窗成為「奢侈」但在日常開發中常不必要的功能。另一些人則指出,以較低成本提供高效能模型以與美國 AI 研究實驗室競爭的策略重要性。

Sources