Vali-98/ChatterUI
A frontend for running models on mobile or connecting to your preferred API providers.
何を解決するか
ChatterUI は、大規模言語モデル(LLMs)と対話するためのネイティブなモバイルフロントエンドを提供し、チャットの構造や管理について詳細な制御が可能なモバイル対応インターフェースを求めるユーザーのニーズを満たします。
動作方法
アプリは2つの主要モードで動作します:
- ローカルモード:
llama.cppをカスタム React Native アダプタ(cui-llama.rn)経由で使用し、GGUF モデルファイルをモバイルデバイスのハードウェア上で直接実行します。 - リモートモード:API を介して外部の LLM プロバイダに接続します。Ollama や koboldcpp などのオープンソースバックエンド、OpenAI や Claude などの商用サービス、および汎用的なチャット/テキスト補完バックエンドをサポートしています。
対象ユーザー
スマートフォン上で LLM をローカルに実行したい、またはさまざまな AI API に接続しながらモデル設定やキャラクターの設定を細かく制御したいモバイルユーザー向けに設計されています。
特徴
- キャラクター対応:特定のキャラクターと会話するための Character Card v2 標準をサポートします。
- 柔軟なモデルロード:アプリ内にモデルをインポートするか、デバイスストレージからの外部ファイルを使用できます。
- カスタマイズ:調整可能なサンプラー項目とインストラクションフォーマットを提供します。
- API の多様性:ネイティブにリストされていないプロバイダ用に、テンプレートシステムでカスタム API を定義できます。
- アクセシビリティ:デバイスのネイティブな音声合成(TTS)エンジンと統合されています。
関連
- Dispatch
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト