RunanywhereAI/on-device-browser-agent

What it solves

AI Web Agentを使用する際、クラウドAPIキーや外部サーバーの必要性を排除します。モデルをユーザーのローカルマシン上で直接実行することで、ページ内容やプロンプトをブラウザから離れさせないようにし、プライバシー、無料、設定不要でウェブサイトのタスクを自動化する方法を提供します。

How it works

このプロジェクトはNanobrowserのフォークであり、クラウドベースのLLM呼び出しをデバイス上での推論（inference）に置き換えています。RunAnywhere SDKを使用し、WebAssemblyとWebGPUを活用してChrome拡張機能内でモデルを実行します。デフォルトではローカル実行が基本ですが、より強力なフロンティアモデルが必要なタスクには、クラウドプロバイダーに接続する機能も保持しています。

Who it’s for

サブスクリプション費用やAPIキーなしで、ローカルで動作するプライバシー重視のAIブラウザAgentを求めるユーザー、およびWebGPUを介してデバイス上でのAI実行を実現する開発者。

Highlights

• Local-first inference: WebAssemblyとWebGPUを使用して、拡張機能内でモデルを実行するローカル優先推論。
• Privacy-centric: ページデータやプロンプトは、デフォルトでローカルマシンに留まります。
• Zero configuration: ユーザーのハードウェアに基づいて自動的にモデルを選択します。
• Hybrid flexibility: ローカルモデルとオプションのクラウドベースLLMプロバイダーの両方をサポートします。