timmyy123/LLM-Hub

解決する課題

LLM Hubは、プライバシーを重視したモバイルアプリケーションであり、ユーザーが大規模言語モデル（LLMs）やその他の生成AIツールを完全にデバイス上で実行できるようにします。クラウドベースのAIサービスを不要にすることで、会話やデータがデバイスから外部へ流出することを防ぎ、AndroidおよびiOS全体で包括的なAI機能を提供します。

仕組み

このアプリは、モバイル向けに最適化されたランタイムとSDKを活用し、デバイスのCPU、GPU、NPUを使用して推論を高速化します。複数のモデルフォーマット（.gguf、.litertlm、.taskなど）をサポートしており、ユーザーはカスタムモデルをインポートしたり、HuggingFaceから直接ダウンロードしたりできます。

AndroidではTermuxと統合されており、シェルコマンドの実行やファイル管理が可能な自律型AIエージェントを実現しています。iOSでは、Run Anywhere SDKとMediaGenerationKitを利用して、ローカルでのLLMおよびメディア生成を行います。

対象ユーザー

• プライバシーを重視するユーザー：データ収集なしでローカルAIを利用したい方。
• 開発者およびパワーユーザー：モバイルデバイス上でローカルLLM、画像/動画生成、AIエージェントを試したい方。
• モバイルAI愛好家：デバイス上での文字起こし、翻訳、メディア検索のための包括的なツールセットを探している方。

ハイライト

• マルチモーダルAIスイート：ローカルチャット、画像生成（Stable Diffusion）、動画生成（Stable Video Diffusion）、音楽生成。
• 自律型AIエージェント：関数呼び出し、MCPツール、およびAndroid上での自動修正ループを備えたTermuxターミナルコマンド生成をサポート。
• ローカルメディアインテリジェンス：EmbeddingGemma 2を使用した写真や動画のデバイス内インデックス作成により、即時の検索と「モーメント検索」を実現。
• 高度なオーディオツール：デバイス上での文字起こし（Whisper）、多言語TTS、ローカル音声クローン（Pocket TTS）。
• Vibe Coder：リアルタイムのHTML/JSプレビューを備えたローカルコーディングアシスタント。Android上のTermux経由でCodexと統合。
• 100%プライベート：推論にインターネット接続は不要。アカウント登録や追跡も一切ありません。