LMOps: 用于优化 LLM 提示智能、推理加速和上下文学习的研究套件
一项专注于基础技术的研究计划，旨在通过改进 LLM 提示、推理速度和上下文处理来构建 AI 产品。
MoneyPrinterTurbo: 一站式 AI 短视频生成器，实现脚本编写、素材匹配和发布自动化
一款 AI 驱动的短视频生成工具，只需通过一个简单的主题即可自动创建脚本、匹配素材并添加配音和字幕。
ai-agent-book: 设计与实现生产级 AI Agent 的全面工程指南与代码库
作为 AI Agent 相关书籍的全面开源配套资源，为上下文工程、RAG、工具使用和多 Agent 系统提供理论指南与实际代码实现。
fiftyone: 用于数据集整理和计算机视觉模型评估的可视化 AI 开发平台
一个通过可视化、标注和评估来构建高质量计算机视觉数据集和模型的开源工具。
obsidian-mind: 为 AI coding agents 提供持久化记忆库，用于追踪专业上下文和绩效证据
一个 Obsidian vault 模板，为 AI coding agents 提供持久化记忆，使其能够跨会话追踪项目、决策和绩效证据。
json_repair: 一个使用启发式方法和模式引导来修复来自 LLMs 和 APIs 的格式错误的 JSON 的 Python 库
一个 Python 库，通过修复语法错误并提供模式引导的恢复，来修复来自 LLMs 和 APIs 的格式错误的 JSON。
khazix-skills: 一套用于扩展 AI agent 能力的标准化指令集，涵盖系统工具、研究和写作
一套用于磁盘清理、AI 新闻追踪、项目文档同步和深度研究报告等任务的标准化 AI agent skills 集合。
DeepSpeed：用于极大规模深度学习训练和内存效率的系统优化库
一个深度学习优化库，通过在分布式硬件上优化内存和计算效率，使得训练万亿参数模型成为可能。
agent-governance-toolkit：用于自主 AI 代理的确定性策略执行与治理层
一个面向自主 AI 代理的治理框架，提供确定性的策略执行、身份管理和审计日志，以防止未授权或破坏性操作。
OmniRoute: 一个支持 237 个提供商自动回退并具备 Token 压缩功能的智能 AI 网关
一个将 237 个提供商聚合到一个端点的 AI 网关，提供自动回退和 Token 压缩功能，以防止速率限制并降低成本。
mission-control：一个用于编排 AI 代理舰队、内置安全审计和成本跟踪的开源仪表盘
一个用于 AI 代理编排的开源仪表盘，团队可以通过自托管、基于 SQLite 的界面管理代理舰队、分配任务并跟踪成本。
OpenCLI：将网站和浏览器会话转换为面向人类和 AI 代理的确定性 CLI 界面的框架
一款将网站和浏览器会话转化为命令行界面的工具，使人类和 AI 代理能够利用已有的登录会话自动化网页交互。
TencentDB-Agent-Memory: 通过符号卸载和语义金字塔减少智能体 Token 使用量的分层记忆系统
一种用于 AI 智能体的分层记忆系统，通过使用符号化短期记忆和用于长期记忆的语义金字塔来减少 Token 使用量并提高召回准确率。
AI-Novel-Writing-Assistant: 一种用于管理长篇小说创作全生命周期的导演式 AI 制作系统
一种用于长篇小说创作的 AI 原生制作引擎，使用导演式工作流，从单一灵感开始管理规划、角色一致性和世界观构建。
ruoyi-ai
一个企业级、全栈的 AI 助手平台，支持多代理编排、RAG 与可视化工作流设计，帮助企业部署 AI。
portaljs: 一个用于构建数据门户的 AI 原生框架，具备智能体架构咨询和 Next.js 脚手架功能
一个用于构建数据门户的 AI 原生框架，利用智能体技能推荐基础设施并使用具有可插拔数据后端的 Next.js 前端脚手架。
JustHireMe
一款本地优先的 AI 求职情报工作台，用于抓取职位线索、通过本地嵌入对匹配度进行排序，并生成定制化的申请材料。
Observal
一个用于便携式 AI coding agents 的注册表和洞察平台，允许团队只需定义一次上下文，即可将其部署到各种 AI coding tools。
OpenKB
OpenKB 是一个开源 CLI 系统，利用 LLM 将原始文档编译为结构化、相互链接的 Wiki 风格知识库，实现持久的知识积累和基于推理的检索。
langgraphjs
一个低层次的编排框架，用于构建可控、具备状态的 AI 代理，支持持久执行、长期记忆以及人机交互监督。
embabel-agent
一个基于 JVM 的框架，用于编写结合了 LLM 交互与强类型代码的智能体流，使用 GOAP 等动态规划算法来实现目标。
optillm：一个兼容 OpenAI 的推理代理，通过推理时优化技术提升 LLM 推理准确性
一个兼容 OpenAI API 的推理代理，实现了 20 多种优化技术，在无需模型训练的情况下提升 LLM 推理准确性。
jupyter-ai
一个开源的 JupyterLab 扩展，将 AI 代理集成到计算笔记本中，使其能够通过聊天界面与文件、终端命令和笔记本单元交互。
terax-ai
一个轻量级的、终端优先的 AI 原生开发环境，将代码编辑器、终端和智能体 AI 助手集成到一个单一的工作区中。
awesome-llm-apps：它是什么、解决了什么问题以及为何受到关注
一个包含 100 多个可直接运行的 AI 代理和 RAG 模板的完整食谱，开发者可以克隆并定制这些模板，以交付生产级 LLM 应用。
mlflow
MLflow 是一个开源 AI 工程平台，为生产环境中的 LLM、AI agents 和机器学习模型提供调试、评估、监控和优化的工具。
agno
Agno 是一个用于构建和管理生产级 AI 代理平台的 SDK 和控制平面，内置安全性、可观测性和存储功能。
agi: 什么是它，它解决了什么问题以及为什么它正受到关注
一个去中心化的 P2P 网络，自主 AI agent 在其中协作开展 ML 研究，汇集计算资源进行分布式训练和推理，并通过全局排行榜共享发现。
open-knowledge: 一个具有协作式 AI 编辑和 MCP 支持的 WYSIWYG markdown 编辑器，适用于 LLM wikis
一个私密、本地的 markdown 编辑器，具有 AI 集成功能，用于构建 LLM wikis 和知识库，结合了 WYSIWYG 体验、agentic search 和 MCP 支持。
forgecode
一个 AI 增强型终端开发环境和编码代理，通过 TUI、CLI 或 ZSH 插件将 LLM 能力直接集成到 Shell 中。
open-swe
一个开源框架，用于构建内部组织编码代理，通过隔离的云沙箱以及与 Slack、Linear 和 GitHub 的集成，自动化软件工程任务。
GenieX：在 Qualcomm Snapdragon 硬件上本地运行 LLM 和 VLM 的设备端推理运行时
面向 Qualcomm Snapdragon 设备的本地生成式 AI 推理运行时，能够通过 Hexagon NPU、Adreno GPU 或 CPU 本地执行 LLM 和 VLM。
ramalama: 一个以容器为中心、用于简化本地 AI 模型服务和硬件加速推理的工具
一种通过将模型及其环境打包进 OCI 容器来简化本地 AI 模型推理的工具，实现了 GPU 加速和宿主机配置的自动化。
code-review-graph
一个使用 Tree-sitter 和 MCP 构建结构化代码图的工具，旨在为 AI 助手提供精确的上下文，从而在代码审查期间大幅减少 token 使用量。
airllm: 一种内存高效的推理引擎，通过逐层加载的方式在低端 GPU 上运行大规模 LLM
一个通过逐层加载模型，使大规模 LLM（高达 671B 参数）能够在显存仅为 4GB-12GB 的消费级 GPU 上运行的库。
heretic
Heretic 是一个通过使用方向性消融和参数优化来自动移除语言模型审查机制的工具，旨在通过优化来维持模型智能。
composio
Composio 是一套 SDKs，为 AI agents 提供集成和与外部 tools 和 APIs 的能力，使其能够在各种 AI frameworks 中执行现实世界的动作。
litellm：统一的 AI 网关和 SDK，使用单一兼容 OpenAI 的 API 调用 100+ LLM
一个开源的 AI 网关和 Python SDK，提供统一的 OpenAI 格式接口，以调用 100+ 不同的 LLM 提供商。
TrendRadar
一款基于 AI 的新闻聚合器和趋势追踪器，通过关键词或 LLMs 过滤多平台热榜和 RSS feeds，并将精选的洞察内容通过各种通知渠道进行推送。
mem0
Mem0 是一个为 AI 智能体和助手提供的智能记忆层，通过记住跨会话的用户偏好和上下文，实现长期个性化。
prompts.chat: 面向 AI 对话模型 的全球最大开源提示词库
一个面向 AI 对话模型的精选提示词开源库，具有 Web 界面、自托管选项以及提示词工程教育资源。
anything-llm
AnythingLLM 是一款一站式 AI 应用，允许用户构建私有的类 ChatGPT 体验，以便与自己的文档聊天并使用 AI 代理自动化工作流。
council-of-high-intelligence: 一个通过在多个 LLM 提供商之间强制进行结构化分歧来避免单模型偏差的多人格审议框架
一个多人格 AI 审议框架，通过在多个 LLM 提供商之间使用 18 个不同的人格，通过结构化分歧和交叉质询来解决复杂的决策问题。
LightLLM: 一个基于 Python 的轻量级推理与服务框架，具备 token 级 KV cache 管理功能
一个轻量级、高性能、基于 Python 的 LLM 推理与服务框架，专为可扩展性和快速模型部署而设计。
read-frog: 一个具备上下文感知翻译和多模型支持的 AI 驱动语言学习浏览器扩展
一款开源的 AI 驱动浏览器扩展，通过上下文感知翻译、文章分析和文本转语音实现沉浸式语言学习。
tickflow-stock-panel：一个自托管的 A 股量化工作台，具备毫秒级选股和 AI 驱动的分析
一个自托管的 A 股量化交易工作台，融合了高性能选股、回测以及 AI 驱动的市场分析。
T3MP3ST: 一个将从侦察到漏洞利用的杀伤链自动化的多智能体攻击性安全框架
一个多智能体攻击性安全框架，可将 AI 编程智能体转化为用于授权安全测试的自动化零日漏洞猎手。
yao-meta-skill: 一个用于建模、编译和评估可重用 AI agent 技能的受控生命周期系统
一个用于在多个平台之间创建、评估和管理可重用 AI agent 技能的治理与工程系统。
AReaL: 用于训练大规模推理和智能体模型的可扩展异步 RL 基础设施
一种用于训练高性能推理和智能体 AI 模型的大规模异步强化学习基础设施。
jcode: 一个具有语义记忆和协作式多智能体集群的高性能编码智能体框架
一个具有语义记忆、用于协作编码的多智能体集群以及资源高效的 CLI 界面高性能编码智能体框架。