osaurus-ai/osaurus

해결하는 문제

Osaurus는 macOS용 로컬 AI 허브로, 사용자가 자신의 AI 정체성, 메모리, 도구를 소유할 수 있도록 합니다. 모델 주변의 '레이어'—에이전트, 메모리, 정체성—을 완전히 사용자의 기기에 보관함으로써 개인적 컨텍스트와 데이터가 클라우드 서버에 고립되는 것을 방지합니다. 동시에 로컬 또는 클라우드 기반 LLM에 유연하게 연결할 수 있습니다.

작동 방식

Apple Silicon용으로 네이티브로 Swift로 구현된 Osaurus는 사용자와 다양한 AI 모델 사이의 중개자 역할을 합니다. 각각 고유한 프롬프트와 메모리를 가진 전문 에이전트 시스템을 관리합니다. 이러한 에이전트는 시스템의 안전성을 보장하기 위해 격리된 Linux VM 사전(또는 오래된 버전에서는 macOS Seatbelt 사전)에서 코드를 실행할 수 있습니다. 컨텍스트 창의 과도한 부피 증가를 방지하기 위해 정체성, 고정된 사실, 세션 에피소드의 3계층 메모리 시스템을 사용합니다. 개인정보 보호를 위해 클라우드 제공업체에 데이터를 전송하기 전에 온디바이스 분류기로 민감한 PII를 제거합니다.

대상 사용자

코드 실행, 웹 탐색, 로컬 파일 및 앱과의 통합이 가능한, 사생활 보호를 중시하고 클라우드 중심 생태계에 의존하지 않는 오프라인 대응 가능한 AI 어시스턴트 시스템을 원하는 Mac 사용자.

주요 기능

• 로컬 우선 아키텍처: MLX를 통해 로컬 모델로 완전한 오프라인 작동 또는 옵션으로 클라우드 연결 가능.
• 보안 사전: Apple의 컨테이너화 프레임워크로 구동되는 격리된 Linux VM에서 코드 실행.
• 에이전트 기능: 서브에이전트, 할 일 목록이 있는 자율 루프, 위임을 위한 내장 오케스트레이터 지원.
• 프라이버시 필터: 클라우드 모델 요청용으로 온디바이스 PII 탐지 및 마스킹.
• MCP 통합: 원격 공급자로부터 도구를 통합하는 MCP 서버이자 클라이언트로 작동.
• 암호화된 정체성: secp256k1 주소를 사용한 에이전트 간 엔드투엔드 암호화 통신.
• 네이티브 성능: Apple Silicon용 Swift로 작성되어 Electron을 회피하여 더 높은 효율성 확보.