OpenBMB/MiniCPM-V-Apps

解決的問題

本專案提供一組行動應用程式示範，讓 MiniCPM-V 系列多模態模型能完全於裝置上執行，無需依賴雲端推論。支援多種行動作業系統，包括 iOS、Android 與 HarmonyOS NEXT。

運作方式

應用程式利用 llama.cpp-omni（作為 git 子模組整合）在行動硬體上本地執行 GGUF 格式的模型權重。專案為各平台提供獨立的建置流程：iOS 使用 Xcode 專案，Android 使用 Gradle/Kotlin 專案，HarmonyOS 使用 DevEco Studio 專案。使用者可選擇下載預先建置的套件，或從原始碼建置並載入特定模型版本（例如 MiniCPM-V 2.6、4.0、4.6 或純文字模型 MiniCPM5-1B）。

適用對象

• 行動開發者：希望將本地 LLM 與多模態模型整合至行動應用程式的開發者。
• AI 研究人員：希望在邊緣裝置上測試多模態模型效能的研究者。
• 終端使用者：希望在智慧型手機上執行私密、離線多模態 AI 的使用者。

特色

• 跨平台支援：提供 iOS、Android 與 HarmonyOS 的原生示範。
• 多模態功能：支援視覺-語言模型（MiniCPM-V）與文字轉語音（VoxCPM2）。
• 裝置內執行：透過 llama.cpp 完全本地執行，確保隱私與離線可用性。
• 硬體特定指引：提供不同模型量化版本的詳細記憶體（RAM）需求，確保在各種裝置上順暢運作。