timmyy123/LLM-Hub
Local AI Assistant on your phone
What it solves
LLM Hub 提供在行動裝置（Android 與 iOS）上直接執行大型語言模型（LLM）、影像生成與影片生成的方式。它消除 AI 推論對網路連線的需求，確保使用者資料保持私密，對話永不離開裝置。
How it works
此應用程式利用行動裝置專屬的硬體加速（CPU、GPU 與 NPU）在本機執行模型。它整合多個專門的 SDK 與執行環境，例如 Android 的 GenieX 與 MediaPipe、iOS 的 Run Anywhere 與 MediaGenerationKit。使用者可直接從 HuggingFace 下載模型，或匯入自訂模型格式（包括 .gguf、.task 與 .litertlm）。
Who it’s for
此應用程式適合想在智慧手機上私密、離線使用 AI 功能的使用者，也適合對本機 AI 實作有興趣的開發者。
Highlights
- Multimodal Suite：包含具 RAG 記憶的文字聊天、透過 Stable Diffusion 產生影像、透過 Stable Video Diffusion 產生影片，以及離線翻譯/轉錄功能。
- Vibe Coder：一個工具，讓使用者描述 App 構想，即可即時看到以即時 HTML/JS 預覽方式建構的結果。
- Privacy-Centric：100% 本機端處理，無資料收集、無帳號、無追蹤。
- Broad Model Support：支援多種模型格式，並可直接從 HuggingFace 匯入。
- AI Utility Tools：提供釣魚偵測的詐騙檢測器、文法與摘要寫作輔助工具，以及名為 creAItor 的自訂角色創建器。