AnyLanguageModel 1.0 发行说明

本地与托管模型的统一 API

AnyLanguageModel 1.0 提供了一个即插即用的兼容 API，允许开发者通过更改单个导入语句，在系统模型、开源权重模型（通过 llama.cpp、MLX 和 Core ML）以及各种托管提供商之间进行切换。通过将 import FoundationModels 替换为 import AnyLanguageModel，开发者可以获得一致的会话代码，从而抽象出底层的推理提供商。此版本还引入了对 Linux 的支持，使相同的代码能够在服务器端环境中运行。

扩展的功能集与提供商支持

1.0 版本引入了多项跨提供商功能，旨在简化将智能特性集成到 Swift 应用程序中的过程：

• 工具调用 (Tool Calling)： 现在所有提供商均已支持。
• 引导生成 (Guided Generation)： 通用适用，包括对嵌套 @Generable 类型和数组的支持。
• 图像支持： 允许使用 Foundation Models 27 语法将图像附加到提示词中，兼容 iOS、macOS 和 visionOS 27 上的系统模型。
• 推理管理： API 会自动处理转录中的推理块，并在切换到不支持推理块的提供商时将其省略。
• 安全性： API 密钥现在通过闭包而非静态字符串进行处理，允许应用程序从安全服务器获取短期令牌。

AnyLanguageModel 1.0 扩展了其托管模型支持，包括 OpenAI、Anthropic（支持自适应思维）、Google Gemini、Ollama、Private Cloud Compute（在 OS 27 上）以及 Hugging Face Inference Providers。

生态系统集成

除了核心库之外，Hugging Face 还发布了 swift-huggingface 1.0 和 swift-xet 1.0，以促进从 Hugging Face Hub 直接向 Swift 应用程序加速下载模型。该框架还兼容 Apple 的 LanguageModel 协议，使其能够与 OS 27 上的 Core AI 模型协同工作。

对于使用开源权重模型的开发者，该框架支持在本地运行诸如 Google 的 Gemma 4 E2B、Liquid AI 的 LFM2.5 2.6B 以及 Alibaba 的 Qwen3.8 27B 等模型。这些模型可以通过极少的代码更改进行集成，例如使用 MLXLanguageModel 来处理 MLX 优化的模型。