rudrankriyam/Foundation-Models-Framework-Lab

A practical lab for building, testing, and evaluating apps with Apple's Foundation Models framework.

What it solves

Foundation Lab 提供一个原生 iOS 与 macOS 工作台,让开发者能够学习、测试和部署使用 Apple Foundation Models 框架的应用程序。它通过将提示、配置、工具和执行证据集中在单一界面,消除为每个实验编写样板代码的需求。

How it works

项目作为原生应用运行,分为三个主要区域:

  • Library:可编辑的配方、指导实验和工作坊集合,演示特定 API 能力。
  • Playground:交互式环境,用于编写提示、配置模型抽样与推理、集成工具,并将配置导出为 Swift 代码。
  • Runs:诊断区域,可检查持久化的运行历史,包括 token 使用、时间和工具调用。

它与 Apple Silicon 集成,支持在设备上执行,并支持高级功能,如适配器比较(将基础模型与微调适配器比较)和使用语义检索的 RAG(检索增强生成)。

Who it’s for

它面向使用 Apple 原生 AI 框架构建 AI 驱动应用的 iOS 与 macOS 开发者,以及想要在设备上实验 LLM 和 Apple Intelligence 的用户。

Highlights

  • Integrated Tooling:包括即用的工具配方,涵盖天气、日历、联系人、HealthKit 与网页搜索。
  • Adapter Studio:提供训练和导出模型适配器(.fmadapter)的工具,以比较其相对于基础模型的性能。
  • Structured Output:支持动态模式、嵌套对象,以及使用 @Generable 模型的发票提取。
  • Xcode 27 Integration:提供 Private Cloud Compute、图像附件和显式工具调用模式的早期实验室。
  • RAG Capabilities:内置文档索引和通过 LumoKit 与 VecturaKit 的语义检索。