mudler/LocalAGI

解決的問題

LocalAGI 提供了一個可自我托管的平台，用於創建和管理完全在本地運行的 AI 代理和自動化。它消除了對雲端服務金鑰和代理型 Python 庫的需求，確保資料隱私，所有處理都在使用者自己的硬體（CPU 或 GPU）上進行。

如何運作

LocalAGI 是一個無代碼平台，允許使用者透過網頁介面設計代理。它與 LocalAI 整合以進行模型推論，並與 LocalRecall 整合以管理知識庫（RAG）。代理可透過「技能」（可重用工具）和以 Go 編寫的自訂動作進行配置，這些動作在執行時被解釋，無需編譯。它還支援代理團隊協作，多個代理可根據單一提示協同工作，並提供與 Discord、Slack、Telegram 和 GitHub 等平台的連接器。

適用對象

適用於希望在消費級硬體上部署私人、本地 AI 代理的使用者，以及希望透過 REST API 或將 LocalAGI 作為 Go 庫來整合代理功能至工作流程的開發者。

特色

• 無代碼代理建立：透過 Web UI 配置多個代理和協作團隊。
• 可程式碼擴展性：以解釋型 Go 程式碼撰寫自訂代理行為。
• 內建 RAG：整合知識庫，支援檔案上傳和語意搜尋。
• 廣泛的硬體支援：針對 CPU、NVIDIA、Intel 和 AMD GPU 提供優化的 Docker 設定。
• 多平台連接器：原生整合 Telegram、Discord、Slack、IRC 和 GitHub Issues。
• OpenAI 兼容：每個代理都提供 OpenAI 回應 API 的即插即用替代方案。