nico-martin/gemma4-browser-extension

해결하는 문제

브라우저 내에서 실행되는 프라이빗한 온디바이스 AI 어시스턴트를 제공하여, 사용자가 데이터를 외부 서버로 전송하지 않고도 브라우저를 제어하고 웹 페이지 콘텐츠와 상호작용할 수 있도록 합니다.

작동 원리

이 확장 프로그램은 Transformers.js와 WebGPU를 사용하여 Gemma 4 모델을 로컬에서 실행합니다. 세 가지 부분으로 구성된 아키텍처를 채택합니다: 모델 로드 및 추론을 위한 중앙 AI 엔진 역할을 하는 백그라운드 스크립트, 채팅 인터페이스를 위한 사이드 패널, 그리고 텍스트 추출 또는 요소 강조를 위해 DOM과 상호작용하는 콘텐츠 스크립트입니다. 웹 페이지 상호작용에는 Retrieval-Augmented Generation (RAG)을 사용하며, 의미론적 히스토리 검색을 위해 IndexedDB의 벡터 데이터베이스를 사용합니다.

대상 사용자

엄격한 개인정보 보호 보장이 있는 지능형 브라우저 어시스턴트를 원하는 사용자 및 Chrome 확장 프로그램 내에서 로컬 LLM을 구현하는 데 관심이 있는 개발자.

주요 특징

• 로컬 실행: 개인정보 보호와 속도를 위해 WebGPU를 사용하여 완전히 온디바이스에서 실행됩니다.
• 브라우저 제어: 자연어를 통해 탭(열기, 닫기, 전환)을 관리할 수 있습니다.
• 의미론적 웹 상호작용: RAG를 사용하여 현재 페이지에서 정보를 검색하고 추출합니다.
• AI 히스토리 검색: 벡터 임베딩을 사용하여 키워드 검색을 대체하는 브라우징 히스토리의 의미론적 검색을 제공합니다.
• 시각적 가이드: 사용자의 주의를 유도하기 위해 웹 페이지의 특정 요소를 강조하거나 해당 위치로 스크롤할 수 있습니다.