jegly/Box

해결하는 문제

Box는 Android 기기에서 고급 AI 모델을 직접 실행하기 위한 안전하고 완전히 오프라인인 환경을 제공합니다. 클라우드 연결의 필요성을 제거하여 개인정보를 보호하고, de-Googled 맞춤 ROM에서도 이미지 생성, 문서 분석, 음성 상호 작용과 같은 AI 기능을 가능하게 합니다.

작동 방식

Box는 모델을 로컬에서 실행하기 위한 강화되고 기능이 풍부한 인터페이스 역할을 합니다. LiteRT(이전 TensorFlow Lite)와 llama.cpp를 통해 하드웨어 가속을 활용하여 최신 모바일 칩셋(예: Snapdragon, Google Tensor, MediaTek)의 NPU, GPU 또는 CPU를 사용합니다. GGUF 모델 가져오기를 지원하고 비전, 음성 및 텍스트 처리를 위한 다양한 특수 도구를 포함하며, 생체 인식 잠금 및 암호화된 저장소와 같은 보안 조치를 시행합니다.

대상 사용자

이 프로젝트는 클라우드 서비스나 Google 생태계에 의존하지 않고 강력한 오픈 소스 AI 모델을 로컬에서 실행하려는 Android 사용자를 위한 것입니다. 개인정보 보호에 중점을 둔 맞춤 ROM(예: GrapheneOS 또는 LineageOS) 사용자와 음성 카메라 지원과 같은 특수 접근성 도구가 필요한 사용자에게 특히 유용합니다.

주요 기능

• 온디바이스 생성형 AI: 로컬 이미지 생성(FLUX.2/Bonsai), 음성 대화 채팅 및 음악 생성을 지원합니다.
• 하드웨어 가속: 최신 Tensor 및 Snapdragon 칩 지원을 포함하여 모바일 NPU 및 GPU에 최적화되어 있습니다.
• 개인정보 보호 우선: 원격 측정 없이 완전히 오프라인으로 작동하며 생체 인식 앱 잠금 및 암호화된 채팅 기록을 갖추고 있습니다.
• 접근성 도구: 시각 장애인 및 저시력 사용자를 위한 실시간 음성 카메라 피드백을 제공하는 "Box Assist"를 포함합니다.
• 광범위한 모델 지원: GGUF 가져오기 및 문서 분석과 Q&A를 위한 다양한 LLM 및 비전 모델과 호환됩니다.