Desert-Ant-Labs/desert-ant-core

解決的問題

Desert Ant Core 提供一系列小型且專注的 AI 模型，設計為完全在裝置上執行。這消除了將敏感的使用者資料（文字、音訊、影像）傳送至雲端伺服器的需要，確保隱私安全，並透過在手機、Mac 或網頁瀏覽器中直接執行推論來降低延遲。

如何運作

此專案提供 Swift、Kotlin 和 JavaScript/TypeScript 的 SDK。它利用平台特定的硬體加速：Apple 裝置使用 Core ML，Android 及其他平台使用 LiteRT（原 TensorFlow Lite），網頁端使用 WebAssembly 與 LiteRT.js。模型託管於 Hugging Face，可下載並本地快取，支援離線環境與自訂模型目錄。

適用對象

需要在 iOS、Android、macOS、Windows、Linux 和網頁端建構以隱私為先的應用程式之開發者，且需要 PII 脫敏、語音辨識或內容標記等特定 AI 功能，但不依賴雲端 API。

主要亮點

• 多樣化的模型庫：包含用於 PII 脫敏（Redact）、表情符號建議（Emo）、語音辨識（Voz）、語言識別（Tongue/Ear）和語音增強（Clear）的模型。
• 跨平台一致性：所有支援平台上的模型行為一致，可讓單一功能實作部署至所有平台。
• 裝置內隱私保護：所有處理均在本地完成，資料從不離開裝置。
• 彈性部署方式：支援托管快取、自托管模型檔案以及離線/斷網安裝。
• 廣泛的執行時支援：相容 Core ML、LiteRT 和 WebAssembly。