Sentient-OS-Labs/sentient-os
An on-device LLM understands your entire life, then proactively offers to get your work done through computer use.
해결하는 문제
Sentient OS는 현재 AI 어시스턴트의 프라이버시 및 컨텍스트 공백 문제를 해결합니다. 대부분의 AI는 사용자가 자신의 전체 디지털 라이프를 클라우드 채팅창에 업로드할 수 없기 때문에 깊은 개인적 컨텍스트가 부족하며, 일반적으로 능동적이기보다는 수동적입니다. Sentient OS는 사용자의 삶에 대한 프라이빗한 온디바이스 메모리를 생성하여 개인적 컨텍스트를 이해하고 능동적으로 작업을 수행할 수 있는 AI를 가능하게 합니다.
작동 방식
이 시스템은 작업의 90%가 Apple Silicon Mac에서 로컬로 수행되는 하이브리드 컴퓨팅 모델을 사용합니다.
- 로컬 처리: 매일 밤 새벽 3시에 로컬 LLM (Gemma 4 E4B)이 디스크에서 파일, 스크린샷, 메시지 (WhatsApp, iMessage, Apple Notes)를 직접 읽습니다. 데이터를 "유지", "쓰레기", "민감"으로 분류하며, 후자 두 가지는 즉시 삭제합니다.
- 지식 베이스 생성: PII(개인 식별 정보)가 제거된 요약이 Mac의 일반 마크다운 파일 폴더로 증류되기 위해 프론ティア 모델(사용자의 ChatGPT/OpenRouter/LM Studio 구독을 통해)로 전송됩니다.
- 능동적 인텔리전스: 프론ティア 모델이 지식 베이스를 분석하여 사용자의 삶을 기반으로 한 "모닝 카드"(능동적인 제안 및 답장 초안)를 작성합니다.
- Sidekick: 로컬 지식 베이스를 기반으로 사용자의 앱과 브라우저 내에서 작업을 실행하기 위해 "computer use" 기능을 사용하는 음성/텍스트 인터페이스입니다.
- 선택적 동기화: 선택 사항인 제로 액세스 암호화 MCP 서버를 통해 지식 베이스를 클라우드에 미러링하여 다른 AI(Claude 또는 ChatGPT 모바일 등)가 개인적 컨텍스트에 액세스할 수 있도록 할 수 있습니다.
대상 사용자
엄격한 로컬 프라이버시를 유지하면서 고도로 개인화된 능동적 AI 에이전트를 원하는 Apple Silicon (M1 이상) 및 macOS 15 이상을 실행하는 Mac 사용자.
주요 특징
- 프라이버시 우선 아키텍처: 원시 데이터는 절대 Mac을 떠나지 않습니다. PII가 제거된 요약만 프론ティア 모델로 전송됩니다.
- 온디바이스 추론: Gemma 4 E4B의 커스텀 LiteRT-LM 포크를 사용하여 8GB RAM Mac에 최적화되었습니다.
- 능동적 에이전시: 밤사이에 작업과 답장을 자동으로 초안 작성하여 아침에 바로 사용할 수 있도록 합니다.
- Computer Use: Sidekick 에이전트는 작업을 완료하기 위해 Mac 애플리케이션 및 브라우저와 상호 작용할 수 있습니다.
- 투명한 메모리: 지식 베이스는 블랙박스가 아닌 편집 가능한 마크다운 파일 폴더로 저장됩니다.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트