techjarves/Uncensored-Local-AI-Multiplatform

解決する課題

このプロジェクトは、クラウドサービス、サブスクリプション、または企業による安全フィルターに依存することなく、オープンソースで検閲のないAIモデルをモバイルおよびデスクトップデバイス上で直接実行する方法を提供します。

仕組み

Flutterフレームワークを使用して構築され、llama.cppエンジンを搭載したこのアプリケーションは、ユーザーがGGUF形式のモデルをローカルにダウンロードして実行できるようにします。モデルストレージの管理、チャットインターフェースの提供、そしてOpenAI互換APIを公開する組み込みHTTPサーバーが含まれており、他のローカルツールやスクリプトとの統合が可能です。

対象ユーザー

コンテンツ制限なしでAIモデルにプライベートかつオフラインでアクセスしたいユーザー、および最初のモデルダウンロード後にインターネット接続を必要としないユーザー向けです。

ハイライト

• 検閲ゼロ： 企業による安全フィルターや拒否設定が含まれていないモデルを実行します。
• 完全なプライバシー： すべての処理と会話履歴は完全にユーザーのデバイス上に留まります。
• クロスプラットフォーム： AndroidおよびiOSをサポートし、コミュニティによるWindows、macOS、Linux向けのビルドも提供されています。
• ローカルAPIサーバー： 外部アプリケーションと接続するためのOpenAI互換REST APIが含まれています。
• リソース監視： 1秒あたりのトークン数やモデルの読み込み進捗状況などのリアルタイムパフォーマンス指標を表示します。