apple/coreai-models

Model export recipes, Python primitives, and Swift runtime utilities for on-device AI

解决的问题

该项目提供了一个全面的工具包,用于在 Apple silicon(macOS 和 iOS)上部署开源 AI 模型。它简化了将 Hugging Face 等来源的热门模型转换为与 Apple Core AI 框架兼容的格式的过程,同时提供必要的运行时工具,以便将其集成到应用程序中。

工作原理

该工具包分为四个主要组件:

  • 模型导出: 提供将 PyTorch 模型转换为独立 .aimodel 文件的配方。
  • Python 原语: 为开发者提供在 PyTorch 中构建自定义 Core AI 模型的构建模块。
  • 运行时工具: 一个 Swift 包,帮助开发者将这些导出的模型集成并运行于 iOS 和 macOS 应用中。
  • 代理技能: 为代码代理(如 Claude Code、Codex CLI 和 Gemini CLI)提供插件,提供在 Apple 平台上部署、编写和压缩模型的专业指导。

适用人群

需要将现有开源模型转换或创建针对 Apple silicon 优化的自定义模型的 Apple 平台本地 AI 应用开发者。

主要亮点

  • 精选模型目录: 包含支持模型的注册表,附带特定的导出配方。
  • 本地执行: 专为 macOS 和 iOS 27.0+ 设计。
  • 模型压缩: 通过 coreai-opt 探索权重压缩、量化和调色板化工具。
  • 代码代理集成: 专用插件帮助 AI 代码助手自动化部署工作流。

相关

  • 项目
  • Dispatch
  • 项目
  • 项目
  • 项目