Desert-Ant-Labs/desert-ant-core

何を解決するか

Desert Ant Core は、すべての処理をデバイス上で実行するように設計された、小型で特定のタスクに特化したAIモデルのセットを提供します。これにより、ユーザーの機密データ（テキスト、音声、画像）をクラウドサーバーに送信する必要がなくなり、プライバシーを確保するとともに、スマートフォン、Mac、またはウェブブラウザ上で直接推論を行うことで遅延を低減します。

仕組み

このプロジェクトは、Swift、Kotlin、JavaScript/TypeScript用のSDKを提供しています。プラットフォーム固有のハードウェアアクセラレーションを活用しています：AppleデバイスではCore ML、Androidおよびその他のプラットフォームではLiteRT（旧TensorFlow Lite）、ウェブではWebAssemblyとLiteRT.jsを使用します。モデルはHugging Faceにホストされており、ローカルにダウンロード・キャッシュ可能で、オフライン環境やカスタムモデルディレクトリのサポートも可能です。

対象ユーザー

iOS、Android、macOS、Windows、Linux、ウェブ向けのプライバシー最優先のアプリケーションを開発しており、クラウドAPIに依存せずに特定のAI機能（PIIのマスキング、音声認識、コンテンツタグ付けなど）が必要な開発者。

特徴

• 多様なモデルライブラリ：PIIマスキング（Redact）、絵文字の提案（Emo）、音声認識（Voz）、言語識別（Tongue/Ear）、音声強化（Clear）用のモデルを含む。
• クロスプラットフォームの一貫性：すべての対応プラットフォームでモデルの振る舞いが同一であり、1つの機能実装をすべての場所に展開可能。
• デバイス内プライバシー：すべての処理はローカルで行われ、データはデバイスから離れることはありません。
• 柔軟なデプロイメント：マネージドキャッシュ、セルフホストモデルファイル、オフライン／オフグリッドインストールをサポート。
• 広範なランタイム対応：Core ML、LiteRT、WebAssemblyと互換性があります。