natively-cluely-ai-assistant: 隱蔽的即時面試副駕,具備裝置端語音轉文字與本地 RAG 記憶
它解決的問題
Natively 是一款即時 AI 面試副駕與會議助理,旨在於高風險的即時對話中提供即時、不可偵測的協助。它消除對類似工具昂貴月費訂閱的需求,同時透過將資料儲存在本機而非雲端伺服器,確保使用者隱私。
工作原理
系統使用基於 Rust 的原生音訊擷取,搭配 Zero-Copy ABI 傳輸,以實現超低延遲(<500ms)。它利用優化的 ONNX 模型(如 Whisper 與 Moonshine)在 macOS 與 Windows 上進行硬體加速的裝置端語音轉文字(STT)。此工具透過雙通道智慧同時擷取系統音訊與麥克風輸入,使用 OCR 分析螢幕內容,並將此上下文輸入選定的 LLM(透過 API 金鑰或本地 Ollama 模型),在隱蔽的覆蓋層中產生即時回應。
目標對象
正在準備技術、行為或系統設計面試的求職者,以及需要即時助理協助銷售、招聘或一般團隊會議的專業人士。
重點特色
- 隱私優先架構:預設將文字稿、API 金鑰與螢幕截圖儲存在本機。
- 隱蔽模式:對監考軟體不可偵測;隱藏於 Dock 並偽裝進程名稱。
- 本地 AI 能力:支援使用本地 Ollama 模型與裝置端 Whisper STT 的 100% 離線模式。
- 本地 RAG 記憶:使用 SQLite 向量搜尋,讓使用者查詢自己的會議歷史。
- 彈性 LLM 整合:支援自備金鑰(BYOK)使用 GPT、Claude、Gemini 與 Groq。
- 自訂角色:提供七種客製化模式(例如技術面試、銷售),配備特定系統提示與範本。