Sidekick：它是什麼、解決了什麼問題以及為何受到關注

它解決了什麼

Sidekick 是一款 本地優先 的 macOS AI 助手，讓使用者能在保持資料安全且離線的情況下與大型語言模型（LLM）聊天。它透過內建的推論引擎，解決了隱私疑慮與軟體安裝障礙的問題，使用者可以直接與自己的檔案、資料夾與網站互動，無需外部軟體或雲端處理。

它如何運作

Sidekick 使用內建的 llama.cpp 後端，在 Apple Silicon 上執行現代 GGUF 本地模型（如 Qwen 2.5）。它採用 檢索增強生成（RAG），從使用者自行定義的「專家」（檔案與網站的集合）中抓取並引用資料，提供帶有引用的可靠答案。對於想要整合遠端模型的使用者，Sidekick 也支援相容 OpenAI 的 API。

適用對象

適合使用 Apple Silicon（最低 8 GB 記憶體）的 Mac 使用者，想要一個私密、具情境感知的 AI 助手，能執行研究、分析本機文件、產生內容，而不依賴雲端服務。

重點特色

• 本地優先 RAG：透過可設定的「專家」存取檔案、資料夾與網站，提供帶引用的答案。
• 代理功能：支援函式呼叫以執行數學/邏輯任務，並提供「深度研究」代理人，處理多步驟、長期的研究任務。
• Llama.cpp 後端：針對 Apple Silicon 最佳化，支援推測解碼以加速產生速度。
• 多模態功能：內建 CoreML 圖像生成（macOS 15.2 以上）以及「Canvas」可編輯與預覽程式碼與網站。
• 記憶功能：在對話間保留偏好與細節，提供個人化回應。
• 進階渲染：原生 LaTeX 數學顯示與自動資料視覺化（表格）。

---

摘要： 一款本地優先的 macOS AI 助手，提供私密、具 RAG 功能的本地 LLM 聊天，並整合代理式研究工具。

標題： Sidekick：它是什麼、解決了什麼問題以及為何受到關注