RunanywhereAI/on-device-browser-agent

해결하는 문제

AI 웹 에이전트를 사용할 때 클라우드 API 키와 외부 서버가 필요 없게 됩니다. 모델을 사용자 기계에서 직접 실행함으로써 페이지 콘텐츠와 프롬프트가 브라우저를 벗어나지 않도록 보장하여, 개인 정보 보호가 되고 무료이며 설정이 전혀 필요 없는 웹 작업 자동화를 가능하게 합니다.

작동 방식

이 프로젝트는 클라우드 기반 LLM 호출을 로컬 인퍼런스로 대체한 Nanobrowser의 포크입니다. RunAnywhere SDK를 사용하여 WebAssembly와 WebGPU를 활용해 모델을 Chrome 확장 프로그램 내부에서 실행합니다. 기본적으로 로컬 실행을 사용하지만, 더 강력한 프론트런 모델이 필요한 작업에 대해 클라우드 공급자에 연결할 수 있는 기능도 유지하고 있습니다.

대상 사용자

구독 비용이나 API 키 없이 로컬에서 실행되는 개인 정보 보호 중심의 AI 브라우저 에이전트를 원하는 사용자와 WebGPU를 통해 로컬에서 AI 실행을 경험하고 싶은 개발자들입니다.

주요 특징

• 로컬 우선 인퍼런스: WebAssembly와 WebGPU를 사용해 확장 프로그램 내부에서 모델을 실행합니다.
• 개인 정보 중심: 기본적으로 페이지 데이터와 프롬프트가 로컬 기계에 머무릅니다.
• 설정 없음: 사용자의 하드웨어에 따라 자동으로 모델을 선택합니다.
• 하이브리드 유연성: 로컬 모델과 선택적 클라우드 기반 LLM 공급자를 모두 지원합니다.