timmyy123/LLM-Hub

해결하는 문제

LLM Hub는 개인정보 보호에 중점을 둔 모바일 애플리케이션으로, 사용자가 대규모 언어 모델(LLMs) 및 기타 생성형 AI 도구를 완전히 기기 내에서 실행할 수 있도록 합니다. 클라우드 기반 AI 서비스에 대한 의존도를 제거하여 대화와 데이터가 기기 밖으로 나가지 않도록 보장하며, Android와 iOS 전반에 걸쳐 포괄적인 AI 기능을 제공합니다.

작동 방식

이 앱은 모바일 최적화 런타임과 SDK를 활용하여 기기의 CPU, GPU, NPU를 사용해 추론을 가속화합니다. 다양한 모델 형식(.gguf, .litertlm, .task 등)을 지원하며, 사용자가 직접 모델을 가져오거나 HuggingFace에서 바로 다운로드할 수 있습니다.

Android에서는 Termux와 통합되어 셸 명령 실행 및 파일 관리가 가능한 자율형 AI 에이전트를 구현합니다. iOS에서는 Run Anywhere SDK와 MediaGenerationKit을 활용하여 로컬 LLM 및 미디어 생성을 수행합니다.

대상 사용자

• 개인정보를 중시하는 사용자: 데이터 수집 없이 로컬 AI를 사용하고자 하는 분.
• 개발자 및 파워 유저: 모바일 기기에서 로컬 LLM, 이미지/비디오 생성, AI 에이전트를 실험하고자 하는 분.
• 모바일 AI 애호가: 기기 내 받아쓰기, 번역, 미디어 검색을 위한 종합 도구 세트를 찾는 분.

주요 특징

• 멀티모달 AI 스위트: 로컬 채팅, 이미지 생성(Stable Diffusion), 비디오 생성(Stable Video Diffusion), 음악 생성.
• 자율형 AI 에이전트: 함수 호출, MCP 도구, 그리고 Android에서 자동 수정 루프를 갖춘 Termux 터미널 명령 생성 지원.
• 로컬 미디어 인텔리전스: EmbeddingGemma 2를 사용하여 사진과 비디오를 기기 내에서 인덱싱하여 즉각적인 검색 및 '순간 찾기' 기능 제공.
• 고급 오디오 도구: 기기 내 받아쓰기(Whisper), 다국어 TTS, 로컬 음성 복제(Pocket TTS).
• Vibe Coder: 실시간 HTML/JS 미리보기를 제공하는 로컬 코딩 어시스턴트. Android의 Termux를 통해 Codex와 통합.
• 100% 프라이빗: 추론 시 인터넷 연결이 필요 없으며, 계정 생성이나 추적 기능이 전혀 없습니다.