Desert-Ant-Labs/desert-ant-core

해결하는 문제

Desert Ant Core는 완전히 디바이스 내에서 실행되도록 설계된 작고 집중적인 AI 모델 세트를 제공합니다. 이로 인해 민감한 사용자 데이터(텍스트, 오디오, 이미지)를 클라우드 서버로 전송할 필요가 없어지며, 개인정보 보호를 보장하고 스마트폰, 맥, 또는 웹 브라우저에서 직접 추론을 수행함으로써 지연 시간을 줄일 수 있습니다.

작동 방식

이 프로젝트는 Swift, Kotlin, JavaScript/TypeScript용 SDK를 제공합니다. 플랫폼별 하드웨어 가속을 활용합니다: Apple 기기에서는 Core ML, Android 및 기타 플랫폼에서는 LiteRT(이전의 TensorFlow Lite), 웹에서는 WebAssembly과 LiteRT.js를 사용합니다. 모델은 Hugging Face에 호스팅되어 있으며, 로컬로 다운로드하고 캐시할 수 있으며, 오프라인 환경과 사용자 정의 모델 디렉터리도 지원합니다.

대상 사용자

iOS, Android, macOS, Windows, Linux, 웹용 프라이버시 중심 애플리케이션을 개발하고 있으며, 클라우드 API에 의존하지 않고 PII 마스킹, 음성 인식, 콘텐츠 태깅과 같은 특정 AI 기능이 필요한 개발자들.

주요 특징

• 다양한 모델 라이브러리: PII 마스킹(Redact), 이모지 제안(Emo), 음성 인식(Voz), 언어 식별(Tongue/Ear), 음성 향상(Clear)용 모델 포함.
• 크로스플랫폼 일관성: 모든 지원 플랫폼에서 모델의 동작이 동일하여, 하나의 기능 구현을 어디서나 배포할 수 있습니다.
• 디바이스 내 프라이버시: 모든 처리는 로컬에서 이루어지며, 데이터는 디바이스를 떠나지 않습니다.
• 유연한 배포: 관리 캐시, 자체 호스팅 모델 파일, 오프라인/에어그랩 설치를 지원합니다.
• 광범위한 런타임 지원: Core ML, LiteRT, WebAssembly과 호환됩니다.