mkbhardwas12/prismos-ai

解決的問題

PrismOS-AI 在本地機器上提供完全私密、離線的 AI 環境。它透過在本地執行 LLM，消除了將敏感資料傳送到遠端伺服器的需求，確保在標準操作期間不會有任何位元組離開裝置。

運作方式

此應用程式使用基於 Tauri 的桌面介面（React/Rust），連接到本機 Ollama 守護程式進行模型推論。它實作了本機 RAG（檢索增強生成）系統，使用 TF-IDF 進行文件擷取，並使用本機 SQLite 知識圖譜在會話之間持久化資訊。為了安全，它在 wasmtime 沙箱內執行 AI 代理，並設定嚴格的記憶體和 CPU 限制，同時強制執行嚴格的內容安全策略（CSP）以阻止未經授權的網路請求。

適用對象

需要高隱私 AI 互動的使用者、處理敏感文件（PDF、DOCX、PPTX、XLSX）的使用者，以及希望擁有具備代理能力的本機優先 AI 助手的開發者。

亮點

• 零網路預設：透過作業系統層級 CSP 強制離線操作，確保資料留在筆記型電腦上。
• 本機知識圖譜：將學習到的概念和答案儲存在本機 SQLite 資料庫中，實現長期記憶。
• 沙箱代理：提供 8 個專業代理（例如推理器、記憶守護者、財務），在 WASM 容器中執行以確保安全。
• 動態模型路由：根據輸入類型（例如附加影像）自動在文字和視覺模型之間切換。
• 硬體感知：根據使用者的本機硬體規格提供模型推薦。