rudrankriyam/Foundation-Models-Framework-Lab
A practical lab for building, testing, and evaluating apps with Apple's Foundation Models framework.
What it solves
Foundation Lab 提供一個原生 iOS 與 macOS 工作台,讓開發者能學習、測試與部署使用 Apple Foundation Models 框架的應用程式。它透過將提示、設定、工具與執行證據集中於單一介面,省去為每個實驗撰寫樣板程式碼的需求。
How it works
此專案以原生應用程式形式運作,分為三個主要區域:
- Library:可編輯的配方、指導實驗與工作坊集合,示範特定 API 功能。
- Playground:互動環境,可組合提示、設定模型抽樣與推理、整合工具,並將設定匯出為 Swift 程式碼。
- Runs:診斷區域,可檢視已保存的執行紀錄,包括 token 使用量、時間與工具呼叫。
它與 Apple Silicon 整合,支援在裝置上執行,並提供進階功能,如適配器比較(將基礎模型與微調適配器比較)與使用語意檢索的 RAG(檢索增強生成)。
Who it’s for
此工具設計給使用 Apple 原生 AI 框架開發 AI 應用的 iOS 與 macOS 開發者,以及想要在裝置上實驗 LLM 與 Apple Intelligence 的使用者。
Highlights
- Integrated Tooling:內建即用的工具配方,包含天氣、行事曆、聯絡人、HealthKit 與網路搜尋。
- Adapter Studio:提供訓練與匯出模型適配器(
.fmadapter)的工具,以比較其與基礎模型的效能。 - Structured Output:支援動態結構、巢狀物件,以及使用
@Generable模型的發票抽取。 - Xcode 27 Integration:提供 Private Cloud Compute、影像附件與明確工具呼叫模式的早期實驗室。
- RAG Capabilities:內建文件索引與透過 LumoKit 與 VecturaKit 的語意檢索。