Apogee: 로컬 우선, 프라이빗 AI 브라우저 어시스턴트

Apogee는 기사, 동영상, 이메일, 문서를 요약하면서 사용자 프라이버시를 완전히 보호하도록 설계된 로컬 우선 AI 브라우저 어시스턴트입니다. 클라우드 기반 AI 확장 프로그램과 달리 Apogee는 토큰화, 추론, 검색, 캐싱을 사용자 기기에서 직접 수행하므로 API 키, 구독, 클라우드 데이터 전송이 필요 없습니다.

로컬 추론 아키텍처

Apogee는 브라우저 네이티브 기술을 활용하여 LLM을 로컬에서 실행하므로 페이지 콘텐츠와 요약이 기기를 벗어나지 않습니다. 하드웨어와 브라우저에 따라 여러 실행 백엔드를 지원합니다.

WebGPU: Chrome, Edge 및 기타 Chromium 기반 브라우저에서 GPU를 사용하여 더 빠른 추론을 수행합니다.
WebAssembly (WASM): Firefox의 기본값이며 Chromium 브라우저의 옵트인 폴백으로, 전용 GPU가 없는 머신에서도 도구가 작동할 수 있게 합니다.
로컬 서버 통합: 고급 사용자는 로컬 루프백 연결(127.0.0.1)을 통해 Apogee를 로컬 Ollama 인스턴스 또는 llama-server(llama.cpp 사용)에 연결할 수 있습니다.

핵심 기능 및 역량

Apogee는 다양한 미디어 유형에 걸쳐 콘텐츠 압축 및 상호 작용을 위한 도구 모음을 제공합니다.

웹 콘텐츠 및 소셜 미디어

Apogee는 Readability 및 사이트별 추출기를 사용하여 Wikipedia, GitHub, Reddit, Hacker News, Bluesky, Mastodon, Lemmy, Discourse, Stack Overflow, arXiv의 텍스트를 정리합니다. 브라우저 컨텍스트 메뉴를 통해 전체 페이지 또는 특정 텍스트 선택(최소 20자)을 요약할 수 있습니다.

멀티미디어 및 문서

동영상 요약: YouTube 및 Bilibili를 지원하며, 사용자가 동영상의 주요 순간으로 이동할 수 있는 대화형 타임스탬프 타임라인을 제공합니다.
문서 지원: 사용자는 PDF, DOCX, TXT, Markdown, JSON 또는 HTML 파일을 확장 프로그램에 끌어다 놓아 로컬에서 처리할 수 있습니다.
소셜 스레드: 토론 사이트를 구조화된 Markdown으로 파싱하여 작성자 신원, 점수, 답글 순서를 보존합니다.

고급 상호 작용

스마트 검색 Q&A: 로컬 구절 매칭을 사용하여 긴 문서에 대해 맥락을 잃지 않고 질문할 수 있습니다.
근거 확인: Chromium 브라우저에서 사용자는 요약 글머리 기호를 클릭하여 페이지의 해당 소스 구절로 자동 스크롤할 수 있습니다.
사용자 지정: 맞춤형 상시 지침(시스템 프롬프트) 및 페이지별 초점 키워드를 지원하여 AI의 강조점을 특정 주제로 유도할 수 있습니다.
번역: Helsinki-NLP Opus-MT 엔진 또는 직접 LLM 번역을 사용하여 32개 대상 언어로 다국어 번역을 제공합니다.

프라이버시 및 보안 모델

Apogee는 모든 처리를 로컬 환경으로 제한하여 데이터 유출을 방지하도록 설계되었습니다. 주요 보안 조치는 다음과 같습니다.

클라우드 전송 제로: 페이지 콘텐츠, 트랜스크립트 또는 요약이 클라우드 API에 업로드되지 않습니다.
네트워크 제한: Ollama 및 llama.cpp에 대한 연결은 외부 데이터 전송을 방지하기 위해 http://127.0.0.1로 엄격히 제한됩니다.
민감 사이트 제외: 개인 데이터의 우발적 캐싱을 방지하기 위해 Apogee는 Gmail, Outlook, Proton Mail, WhatsApp Web, Telegram Web, Slack, Discord, Microsoft Teams와 같은 민감한 도메인을 디스크 캐싱에서 제외합니다.
익명화된 조회: YouTube 스폰서 조회는 k-익명성 해시 접두사를 사용하며 완전히 로컬 환경을 위해 설정에서 완전히 비활성화할 수 있습니다.

Mozilla Orbit과의 비교

Apogee는 Mozilla의 중단된 Orbit 프로젝트에서 영감을 받았습니다. Orbit은 브라우저 기반 요약을 시도했지만 중앙 API 서버에 의존하고 요약을 원격으로 저장했습니다. Apogee는 추론과 저장이 전적으로 사용자 기기에서 이루어지는 로컬 우선 아키텍처를 구현하여 원격 서버에 대한 의존성과 초기 모델 가중치가 캐시된 후 인터넷 연결 요구 사항을 제거함으로써 이 모델에서 벗어납니다.