Desert-Ant-Labs/desert-ant-core

解决的问题

Desert Ant Core 提供一系列小型、专注的 AI 模型，旨在完全在设备上运行。这消除了将敏感用户数据（文本、音频和图像）发送到云服务器的需要，确保隐私安全，并通过在手机、Mac 或网页浏览器中直接执行推理来降低延迟。

如何工作

该项目提供 Swift、Kotlin 和 JavaScript/TypeScript 的 SDK。它利用平台特定的硬件加速：Apple 设备使用 Core ML，Android 及其他平台使用 LiteRT（原 TensorFlow Lite），网页端使用 WebAssembly 与 LiteRT.js。模型托管在 Hugging Face 上，可下载并本地缓存，支持离线环境和自定义模型目录。

适用人群

需要在 iOS、Android、macOS、Windows、Linux 和网页端构建以隐私为先的应用程序的开发者，且需要 PII 信息脱敏、语音识别或内容标记等特定 AI 功能，但不依赖云 API。

主要亮点

• 多样化的模型库：包含用于 PII 脱敏（Redact）、表情符号建议（Emo）、语音识别（Voz）、语言识别（Tongue/Ear）和语音增强（Clear）的模型。
• 跨平台一致性：所有支持平台上的模型行为一致，允许单个功能实现部署到所有平台。
• 设备内隐私保护：所有处理均在本地完成，数据从不离开设备。
• 灵活的部署方式：支持托管缓存、自托管模型文件以及离线/断网安装。
• 广泛的运行时支持：兼容 Core ML、LiteRT 和 WebAssembly。