Anthropic 宣布为 Claude 提供 100K Token 上下文窗口

TL;DR

Anthropic 已将 Claude 的上下文窗口从 9,000 增加到 100,000 tokens（约 75,000 个单词），允许企业将数百页的材料输入模型，并在几秒钟内而非几小时内获得分析结果。

海量上下文扩展

Claude 现在可以在单个请求中处理高达 100K tokens，这比之前的 9K 限制增加了十倍以上。这个规模相当于大约六小时的音频转录文本或一本典型小说的全文。

优于人类阅读的速度优势

人类阅读 100,000 tokens 大约需要五小时，并且需要更长的时间来消化内容。Claude 可以在不到一分钟的时间内摄取相同数量的文本。在一次演示中，Claude-Instant 阅读了整本《了不起的盖茨比》（72K tokens），其中一行被修改了，它在 22 秒内就识别出了变化。

实际应用场景

扩大的窗口解锁了多个面向业务的工作流：

文档消化 – 总结并解释密集的材料，如财务报表、研究论文或立法文本。
战略分析 – 综合整个年度报告的信息，以发现风险和机遇。
法律审查 – 在大量的合同或法规集合中识别主题、论点和风险。
开发者辅助 – 加载数百页的 API 文档或整个代码库并提出技术问题。
快速原型设计 – 将完整的代码仓库放入提示词中，并获取有关修改或扩展的智能建议。

与向量搜索的对比

对于需要跨文档多个部分进行综合分析的复杂查询，Claude 的长上下文能力预计将优于传统的向量搜索流水线，后者通常只检索孤立的段落而缺乏整体推理能力。

现实世界演示

AssemblyAI 展示了一个工作流，其中一段六小时的播客（58K 单词）被转录后，然后输入给 Claude 进行总结和问答。完整的演示可以在 YouTube here 查看。

可用性

100K token 上下文窗口已在 Anthropic 的 API 中上线。开发者可以查阅 API 参考文档以选择合适的 Claude 模型版本。新用户可以通过 Anthropic 的网站申请访问权限。

参考资料

阅读速度估算：普通人阅读 100,000 tokens 大约需要 ~5 小时 [1]。
演示视频：AssemblyAI 使用 Claude 进行播客总结。

相关公告：

改进 Fable 5 的生物安全防护 – link
Mariano-Florentino (Tino) Cuéllar 加入 Anthropic 担任首席全球事务官 – link