jegly/Box

解決する課題

Box は、Android デバイス上で高度な AI モデルを直接実行するための、安全で完全にオフラインの環境を提供します。クラウド接続の必要性を排除し、プライバシーを確保するとともに、de-Googled カスタム ROM 上でも画像生成、文書分析、音声対話などの AI 機能を可能にします。

仕組み

Box は、モデルをローカルで実行するための、堅牢で機能豊富なインターフェースとして機能します。LiteRT（旧 TensorFlow Lite）と llama.cpp を介してハードウェアアクセラレーションを活用し、最新のモバイルチップセット（Snapdragon、Google Tensor、MediaTek など）の NPU、GPU、または CPU を利用します。GGUF モデルのインポートをサポートし、視覚、音声、テキスト処理のためのさまざまな専門ツールを含みながら、生体認証ロックや暗号化ストレージなどのセキュリティ対策を実施します。

対象ユーザー

このプロジェクトは、クラウドサービスや Google のエコシステムに依存せずに、強力なオープンソース AI モデルをローカルで実行したい Android ユーザー向けです。プライバシー重視のカスタム ROM（GrapheneOS や LineageOS など）のユーザーや、音声カメラアシスタンスなどの専門的なアクセシビリティツールを必要とするユーザーに特に役立ちます。

ハイライト

• オンデバイス生成 AI: ローカル画像生成（FLUX.2/Bonsai）、音声対話チャット、音楽生成をサポート。
• ハードウェアアクセラレーション: 最新の Tensor および Snapdragon チップのサポートを含む、モバイル NPU および GPU 向けに最適化。
• プライバシー最優先: テレメトリなしで完全にオフラインで動作し、生体認証アプリロックと暗号化されたチャット履歴を備えています。
• アクセシビリティツール: 視覚障害者および弱視ユーザー向けのリアルタイム音声カメラフィードバックを提供する「Box Assist」を含みます。
• 広範なモデルサポート: GGUF インポートおよび文書分析と Q&A のための幅広い LLM と視覚モデルと互換性があります。