Apogee: ローカルファーストでプライベートなAIブラウザアシスタント

Apogeeは、記事、動画、メール、ドキュメントの要約を、ユーザーのプライバシーを完全に保護しながら行うために設計された、ローカルファーストのAIブラウザアシスタントです。クラウドベースのAI拡張機能とは異なり、Apogeeはトークン化、推論、検索、キャッシュをユーザーのデバイス上で直接実行するため、APIキーやサブスクリプション、クラウドへのデータ送信が不要です。

ローカル推論アーキテクチャ

Apogeeは、ブラウザネイティブのテクノロジーを活用してLLMをローカルで実行し、ページのコンテンツや要約がデバイスから出ないことを保証します。ハードウェアとブラウザに応じて、複数の実行バックエンドをサポートしています。

  • WebGPU: Chrome、Edge、その他のChromiumベースのブラウザで使用され、GPUを利用して推論を高速化します。
  • WebAssembly (WASM): Firefoxのデフォルトであり、Chromiumブラウザではオプトインのフォールバックとして、専用GPUがないマシンでも機能するようにします。
  • ローカルサーバー統合: パワーユーザーは、ローカルループバック接続(127.0.0.1)を介して、ApogeeをローカルのOllamaインスタンスまたはllama-server(llama.cpp経由)に接続できます。

コア機能と能力

Apogeeは、さまざまなメディアタイプにわたるコンテンツの凝縮とインタラクションのためのツールスイートを提供します。

Webコンテンツとソーシャルメディア

Apogeeは、Readabilityとサイト固有の抽出器を使用して、Wikipedia、GitHub、Reddit、Hacker News、Bluesky、Mastodon、Lemmy、Discourse、Stack Overflow、arXivからテキストをクリーンアップします。ブラウザのコンテキストメニューから、ページ全体または特定のテキスト選択(最小20文字)を要約できます。

マルチメディアとドキュメント

  • 動画要約: YouTubeとBilibiliをサポートし、ユーザーが動画のキーポイントにジャンプできるインタラクティブなタイムスタンプ付きタイムラインを提供します。
  • ドキュメントサポート: ユーザーはPDF、DOCX、TXT、Markdown、JSON、またはHTMLファイルを拡張機能にドラッグ&ドロップして、ローカルで処理できます。
  • ソーシャルスレッド: ディスカッションサイトを構造化されたMarkdownに解析し、著者の身元、スコア、返信順序を保持します。

高度なインタラクション

  • スマート検索Q&A: ローカルのパッセージマッチングを採用し、ユーザーが長いドキュメントについてコンテキストを失うことなく質問できるようにします。
  • グラウンディング: Chromiumブラウザでは、ユーザーが要約の箇条書きをクリックすると、ページが対応するソースパッセージに自動的にスクロールします。
  • カスタマイズ: カスタムの常時指示(システムプロンプト)とページごとのフォーカスキーワードをサポートし、AIの重点を特定のテーマに向けます。
  • 翻訳: Helsinki-NLP Opus-MTエンジンまたは直接LLM翻訳を使用して、32のターゲット言語への多言語翻訳を提供します。

プライバシーとセキュリティモデル

Apogeeは、すべての処理をローカル環境に制限することでデータ漏洩を防ぐように設計されています。主なセキュリティ対策は次のとおりです。

  • ゼロクラウド送信: ページコンテンツ、トランスクリプト、要約はクラウドAPIにアップロードされません。
  • ネットワーク制限: Ollamaとllama.cppへの接続は、外部データ送信を防ぐためにhttp://127.0.0.1に厳密に制限されています。
  • 機密サイトの除外: プライベートデータの誤ったキャッシュを防ぐため、ApogeeはGmail、Outlook、Proton Mail、WhatsApp Web、Telegram Web、Slack、Discord、Microsoft Teamsなどの機密ドメインをディスクキャッシュから除外します。
  • 匿名化されたルックアップ: YouTubeスポンサーのルックアップはk-匿名性ハッシュプレフィックスを使用し、完全にローカルなエクスペリエンスのために設定で完全に無効にできます。

Mozilla Orbitとの比較

Apogeeは、Mozillaが開発を中止したOrbitプロジェクトに触発されました。Orbitはブラウザベースの要約を試みましたが、中央のAPIサーバーに依存し、要約をリモートに保存していました。Apogeeは、推論とストレージが完全にユーザーのデバイス上で行われるローカルファーストのアーキテクチャを実装することでこのモデルから逸脱し、リモートサーバーへの依存と、初期モデルの重みがキャッシュされた後のインターネット接続の要件を排除しています。

Sources

関連

  • Dispatch
  • Dispatch
  • プロジェクト
  • プロジェクト
  • プロジェクト