apple/coreai-models
Model export recipes, Python primitives, and Swift runtime utilities for on-device AI
解决的问题
该项目提供了一个全面的工具包,用于在 Apple silicon(macOS 和 iOS)上部署开源 AI 模型。它简化了将 Hugging Face 等来源的热门模型转换为与 Apple Core AI 框架兼容的格式的过程,同时提供必要的运行时工具,以便将其集成到应用程序中。
工作原理
该工具包分为四个主要组件:
- 模型导出: 提供将 PyTorch 模型转换为独立
.aimodel文件的配方。 - Python 原语: 为开发者提供在 PyTorch 中构建自定义 Core AI 模型的构建模块。
- 运行时工具: 一个 Swift 包,帮助开发者将这些导出的模型集成并运行于 iOS 和 macOS 应用中。
- 代理技能: 为代码代理(如 Claude Code、Codex CLI 和 Gemini CLI)提供插件,提供在 Apple 平台上部署、编写和压缩模型的专业指导。
适用人群
需要将现有开源模型转换或创建针对 Apple silicon 优化的自定义模型的 Apple 平台本地 AI 应用开发者。
主要亮点
- 精选模型目录: 包含支持模型的注册表,附带特定的导出配方。
- 本地执行: 专为 macOS 和 iOS 27.0+ 设计。
- 模型压缩: 通过
coreai-opt探索权重压缩、量化和调色板化工具。 - 代码代理集成: 专用插件帮助 AI 代码助手自动化部署工作流。
相关
- 项目
- Dispatch
- 项目
- 项目
- 项目