onyx-dot-app/onyx-foss

解決的問題

Onyx 為大型語言模型（LLM）提供一個功能豐富的應用層，讓使用者與組織能夠托管自己的 AI 平台。它透過將 RAG、網路搜尋與外部應用連接整合至單一介面，彌補原始 LLM 與可用商業工具之間的差距。

工作原理

Onyx 作為一個編排器，可連接多種 LLM 提供商（包括 OpenAI 等專有服務與 Ollama 等自架服務）。它使用混合索引（向量與關鍵字）實現 Agentic RAG，並提供沙箱環境用於程式碼執行。該平台支援兩種部署模式：適用於基礎聊天與代理的「Lite」版本，以及包含完整索引、知識同步工作佇列，以及透過 Redis 與 MinIO 實現效能優化的「Standard」版本。

適用對象

適用於從希望擁有自架 AI 界面的個人，到需要協作工具、單一登入（SSO）、角色基礎存取控制（RBAC）與品牌客製化功能的大企業。

主要亮點

• Agentic RAG： 結合混合索引與 AI 代理，實現高品質資訊檢索。
• 深度研究： 支援多階段研究流程，用於生成深度報告。
• 廣泛連接性： 支援超過 50 個基於索引的連接器，並相容 Model Context Protocol (MCP)。
• 自訂代理： 可根據特定指示、知識庫與操作建構代理。
• 多功能工具： 內建網頁爬取、影像生成、語音模式（TTS/STT），以及用於資料分析的沙箱程式碼執行。