natively-cluely-ai-assistant：具备本地语音转文字和本地RAG记忆的隐蔽实时面试副驾驶

解决的问题

Natively 是一个实时 AI 面试副驾驶和会议助理，旨在在高风险的现场对话中提供即时、不可检测的帮助。它消除了对昂贵月度订阅的需求，同时通过将数据本地存储而非存放在云服务器上来确保用户隐私。

工作原理

系统使用基于 Rust 的本地音频捕获，并通过 Zero-Copy ABI 传输实现超低延迟（<500ms）。它利用优化的 ONNX 模型（如 Whisper 和 Moonshine）在 macOS 和 Windows 上进行硬件加速的本地语音转文字（STT）。该工具通过双通道智能捕获系统音频和麦克风输入，使用 OCR 分析屏幕内容，并将这些上下文输入选定的 LLM（通过 API 密钥或本地 Ollama 模型），在隐蔽的叠加层中生成实时响应。

适用人群

准备技术、行为或系统设计面试的求职者，以及需要实时助理进行销售、招聘或一般团队会议的专业人士。

亮点

  • 隐私优先架构：默认将转录文本、API 密钥和截图本地存储。
  • 隐蔽模式：监考软件无法检测；隐藏于 Dock 并伪装进程名称。
  • 本地 AI 能力：支持使用本地 Ollama 模型和本地 Whisper STT 的 100% 离线模式。
  • 本地 RAG 记忆：使用 SQLite 向量搜索，允许用户查询自己的会议历史。
  • 灵活的 LLM 集成：支持自带密钥（BYOK）的 GPT、Claude、Gemini 和 Groq。
  • 自定义角色：七种定制模式（例如技术面试、销售），配有特定的系统提示和模板。

Sources