nano-vllm
Nano-vLLM 是一個輕量級、從零開始實作的 vLLM 風格推論引擎，旨在透過高度可讀的程式碼庫實現快速的離線推論。
easy-dataset
一款將非結構化文件轉換為高品質結構化問答對與評估集合，供 LLM 微調使用的工具。
botpress
Botpress 是一個使用 OpenAI 構建 AI 驅動的聊天機器人和助手的平台，為創建自定義集成和插件提供了一套開發者工具。
llmware
一個用於構建私密、本地且安全的知識型 LLM 應用程式的統一框架，其特色是擁有 300 多個模型的模型目錄以及整合的 RAG Pipeline。
oh-my-pi
一個具有深度 IDE 整合、具備內建 LSP/DAP 支援、hashline edits 以及廣泛工具介面，可用於自主軟體工程的高能力編碼代理。
unstructured
一個開源函式庫，用於將 PDF 和 Word 文件等非結構化文件攝取並預處理為結構化格式，以優化 LLMs 的數據工作流。
rowboat
Rowboat 是一個開源、以本地優先為設計理念的 AI 同事，它能從您的電子郵件和會議記錄中建立長期知識圖譜，為工作任務提供持久且具備複利效應的上下文。
Memori
Memori 是一個為 AI agent 與 LLM 提供持久記憶層的工具，能自動跨對話階段擷取並召回結構化的上下文、使用者偏好與 agent 決策。
WrenAI
一個開源的生成式 BI 引擎，允許 AI agent 從任何資料庫產生、部署並治理值得信賴的商業智能和儀表板。
memvid
Memvid 是一個為 AI agent 提供單一檔案、可攜式記憶層的工具，提供持久的長期記憶和快速檢索，且無需外部資料庫。
agency-agents-zh
一個包含 266 個具有定義身份和工作流程的專業 AI 專家角色函式庫，相容於 18 種 AI 編程工具，旨在將 LLM 轉化為專業的代理機構團隊。
edict
一個多智能體協作框架，利用古代中國的皇室行政結構來為 AI 任務提供制度化監督、即時可觀察性以及嚴格的品質控制。
kubesphere
KubeSphere 是一個用於雲端原生應用程式管理的分散式作業系統，簡化了跨多雲、邊緣和資料中心環境的 Kubernetes 管理。
agent-lightning
一個為 AI agent 設計的 trainer，無論使用何種 agent 框架，都能透過 Reinforcement Learning 和其他技術以極少的程式碼變更來實現優化。
easy-vibe
一個全面的、多語言的學習地圖與教學系列，教導使用者如何透過 AI 輔助的 "vibe coding" 來構建全端 AI 應用程式。
openfang
一個使用 Rust 編寫的開源代理作業系統，可根據排程執行自主代理，以在無需持續提示的情況下執行複雜的背景任務。
DocsGPT
一個開源 AI 平台，用於建立私密、智慧型代理與助手，能根據攝取的私密文件和網頁內容提供無幻覺的答案。
WeClone
WeClone 是一個端到端的解決方案，通過在來自 Telegram 等平台的個人聊天記錄上微調 LLM，來創建數位分身，並支持文本和圖像數據。
parlant
一個專為面向客戶的 AI agent 設計的互動控制框架，利用動態上下文工程來確保一致、合規且符合品牌形象的行為控制。
web-llm
一個高效能的瀏覽器內 LLM 推論引擎，利用 WebGPU 在本機執行語言模型，無需伺服器。
9router
一款智慧 AI 路由與 token 節省工具，透過在訂閱、便宜與免費 AI 模型之間提供自動化回退機制，來優化 API 成本並防止停機。
Chinese-LLaMA-Alpaca
一個透過詞彙擴展和指令微調來提供增強中文能力的 LLaMA 和 Alpaca 模型開源專案，旨在改進中文 NLP 任務。
DB-GPT
一款開源的代理式 AI 數據助手，可連接到數據庫和文件，自主編寫 SQL 和代碼進行數據分析與報告。
SWE-agent
一個自主的 AI 代理，使 LLMs 能夠修復 GitHub 問題、尋找安全漏洞並執行自定義編碼任務。
dyad
Dyad 是一款本地、開源的 AI 應用程式建構工具，讓使用者能在自己的機器上、使用自有 API 金鑰私密地建立應用程式。
datasets
一個輕量級的函式庫，可從 Hugging Face Hub 或本地文件輕鬆地透過一行指令載入並高效預處理各種 AI 就緒的數據集（文本、音訊、圖像、影片）。
skyvern
Skyvern 是一款 AI 驅動的瀏覽器自動化工具，它使用 Vision LLMs 和 Playwright 來自動化 Web 工作流，而無需依賴脆弱的 XPaths 或自定義腳本。
Anthropic-Cybersecurity-Skills
一個包含 817 個結構化網路安全技能與工作流的全面開源函式庫，旨在賦予 AI agent 資深安全分析師的領域專業知識。
mlc-llm
MLC LLM 是一個通用部署引擎和 ML 編譯器，能夠在多樣化的硬體和平台之上實現大型語言模型的高性能原生執行。
GenAI_Agents
一個全面的 GenAI agent 教學與實作儲存庫，提供從基礎機器人到使用 LangGraph 和 LangChain 等框架的複雜多代理人系統的結構化路徑。
DeepSeek-Reasonix
一個用於終端機的 DeepSeek 原生 AI 編碼代理，使用配置驅動的 Go 框架來最小化 token 成本並自動化編碼任務。
ai
一個與供應商無關的 TypeScript 工具包，用於透過統一的 API 訪問多個 LLM 供應商並結合集成的 UI hooks 來構建 AI 驅動的應用程式和代理程式。
agenticSeek
AgenticSeek 是一個私密且本地化的 AI 助手，它能自主瀏覽網頁、編寫程式碼並執行複雜任務，同時將所有數據保留在用戶的設備上。
Scrapegraph-ai
一個使用 LLMs 和圖形邏輯，透過自然語言提示詞從網站和本地文件提取結構化數據的 Python 函式庫。
semantic-kernel
一個企業級的協調框架與 SDK，用於在多個 LLM 供應商之間建置、協調與部署 AI 代理與多代理系統。
langfuse
一個開源的 LLM 工程平台，透過可觀測性、提示詞管理和測試數據集來開發、監控和評估 AI 應用程式。
SillyTavern
SillyTavern 是一個在本機安裝的使用者介面，提供統一的前端以與各種 LLM API、影像生成引擎與 TTS 模型互動。
onyx
Onyx 是一個開源 AI 平台，作為 LLM 的應用層，在可自我託管的介面中提供 Agentic RAG、深度研究和自定義代理等進階能力。
prompt-optimizer
一款 AI 提示詞優化工具，透過迭代改進文字與圖像生成模型的提示詞，以提升輸出品質與準確度。
PageIndex
一種無向量、基於推理的 RAG 系統，使用分層樹狀索引和 LLM 驅動的樹狀搜尋，為長篇專業文件提供高度準確且可追蹤的檢索。
graphrag
GraphRAG 是來自 Microsoft 的一個數據管道和轉換套件，它使用知識圖譜從非結構化文本中提取結構化數據，從而增強 LLM 對私有數據的推理能力。
khoj
Khoj 是一款開源的個人 AI 助手，可作為第二大腦，讓使用者能透過各種 LLMs 與自己的文件和網際網路進行對話。
AstrBot
一個全方位的一站式開源 Agent chatbot 平台，將 LLMs 與主流即時通訊應用程式整合，以創建個人伴侶或企業 AI 助手。
Vane
Vane 是一個注重隱私的、自託管的 AI 回答引擎，它結合了網頁搜尋與本地或雲端 LLM，在保持數據私密性的同時提供帶有引用來源的回答。
langgraph
一個底層協調框架，用於構建、管理與部署具備持久執行與人類在迴路中功能的長時間運行且有狀態的 AI 代理。
ChatTTS
ChatTTS 是一個針對對話式對話進行優化的生成式文本轉語音模型，提供自然且具表現力的語音，並可控制笑聲和停頓。
ray
Ray 是一個統一的框架，用於將 Python 和 AI 應用程式從單台筆記型電腦擴展到分佈式集群，提供核心運行時和專用於 ML 計算的專門函式庫。
jan
Jan 是一個開源的 ChatGPT 替代方案，讓您能在本地執行 LLM 以確保隱私與控制，或連接雲端 AI 供應商。
milvus
Milvus 是一款高效能、分散式的向量資料庫，專為需要有效搜尋與組織海量非結構化資料的 AI 應用而設計，具備優異的擴展能力。
llama_index
LlamaIndex 是一個開源資料框架，讓開發者能將私人資料來源連接至 LLM，以進行知識增強生成與代理應用。