mkbhardwas12/prismos-ai

해결하는 문제

PrismOS-AI는 로컬 머신에서 완전히 프라이빗하고 오프라인인 AI 환경을 제공합니다. LLM을 로컬에서 실행하여 민감한 데이터를 원격 서버로 보낼 필요가 없으며, 표준 작동 중에 장치에서 데이터가 유출되지 않도록 보장합니다.

작동 방식

이 애플리케이션은 Tauri 기반 데스크톱 인터페이스(React/Rust)를 사용하여 로컬 Ollama 데몬에 연결해 모델 추론을 수행합니다. TF-IDF를 사용한 문서 추출과 세션 간 정보를 영속화하는 로컬 SQLite 지식 그래프를 갖춘 로컬 RAG(Retrieval-Augmented Generation) 시스템을 구현합니다. 보안을 위해 wasmtime 샌드박스 내에서 엄격한 메모리 및 CPU 제한으로 AI 에이전트를 실행하고, 승인되지 않은 네트워크 요청을 차단하는 엄격한 콘텐츠 보안 정책(CSP)을 적용합니다.

대상 사용자

AI 상호작용에 높은 프라이버시가 필요한 사용자, 민감한 문서(PDF, DOCX, PPTX, XLSX)를 다루는 사용자, 에이전트 기능을 갖춘 로컬 우선 AI 어시스턴트를 원하는 개발자.

주요 기능

• 제로 네트워크 기본값: OS 수준 CSP를 통해 오프라인 작동을 강제하여 데이터가 노트북에 머물도록 보장합니다.
• 로컬 지식 그래프: 학습한 개념과 답변을 로컬 SQLite 데이터베이스에 저장하여 장기 기억을 구현합니다.
• 샌드박스 에이전트: 안전을 위해 WASM 컨테이너에서 실행되는 8개의 전문 에이전트(예: 추론기, 메모리 키퍼, 금융)를 제공합니다.
• 동적 모델 라우팅: 입력 유형(예: 이미지 첨부)에 따라 텍스트 모델과 비전 모델을 자동으로 전환합니다.
• 하드웨어 인식: 사용자의 로컬 하드웨어 사양에 따라 모델 추천을 제공합니다.