Anthropic 宣布 Claude 提供 100K Token 上下文視窗

TL;DR

Anthropic 已將 Claude 的上下文視窗從 9,000 增加到 100,000 tokens（約 75,000 字），讓企業能夠將數百頁的資料輸入模型，並在幾秒鐘內而非數小時內獲得分析結果。

大規模上下文擴展

Claude 現在可以在單次請求中處理多達 100K tokens，這比之前的 9K 限制增加了十倍以上。這個容量相當於大約六小時的音訊轉錄內容，或是一本典型小說的全文。

超越人類閱讀的速度優勢

人類閱讀 100,000 tokens 大約需要五個小時，且消化內容需要更長的時間。Claude 可以在不到一分鐘的時間內攝取相同數量的文本。在一次演示中，Claude-Instant 讀取了整本《Great Gatsby》（72K tokens），其中有一行被修改過，它在 22 秒內就識別出了該變更。

實際應用場景

擴大的視窗解鎖了多種面向業務的工作流程：

文件消化 – 摘要並解釋密集的材料，例如財務報表、研究論文或立法文本。
策略分析 – 綜合整個年度報告中的資訊，以發現風險與機會。
法律審查 – 在大量的合約或法規集中識別主題、論點與風險。
開發者協助 – 載入數百頁的 API 文檔或整個程式碼庫，並提出技術問題。
快速原型設計 – 將完整的程式碼庫放入提示詞中，並獲得修改或擴展的智慧建議。

與向量搜尋的比較

對於需要跨文件多個部分進行綜合分析的複雜查詢，Claude 的長上下文能力預計將優於傳統的向量搜尋流程，因為傳統流程通常只檢索孤立的段落，而缺乏整體推理能力。

真實世界演示

AssemblyAI 展示了一個工作流程，其中一段六小時的播客（58K 字）被轉錄後，接著餵給 Claude 進行摘要與問答。完整的演示可以在 YouTube here 查看。

可用性

100K token 上下文視窗已在 Anthropic 的 API 中上線。開發者可以參考 API 文檔來選擇合適的 Claude 模型版本。新用戶可以透過 Anthropic 的網站申請存取權限。

參考資料

閱讀速度估計：一般人閱讀 100,000 tokens 約需 ~5 小時 [1]。
演示影片：AssemblyAI 使用 Claude 進行播客摘要。

相關公告：

改進 Fable 5 的生物安全防護 – link
Mariano-Florentino (Tino) Cuéllar 加入 Anthropic 擔任全球事務長 – link