Syllo/nvtop
一个类似 htop 的 GPU 和 AI 加速器任务监控工具,可在多个硬件供应商之间实时可视化监控利用率、温度和功耗。
xlang-ai/OSWorld-V2
一个用于在虚拟化操作系统上评估 AI 代理在长期、现实世界计算机使用任务表现的基准和环境。
MiaAI-Lab/Qwen3.8-27B-SGLang-DGX-Spark
基于 Docker 的部署套件,用于在 NVIDIA DGX Spark(aarch64,128 GB 统一内存)上使用 SGLang 部署 270 亿参数的 Qwen 3.8 模型。包含三种推测解码引擎(EAGLE/MTP、DSpark、DFlash2)的预配置脚本、基准测试工具,以及上下文长度(最高 1M 令牌)、并发数(最高 10)、量化模式的简易配置。专为需要在 aarch64 GPU 服务器上实现高性能 LLM 推理的工程师设计。
Rust-GPU/rust-cuda
一套让开发者能够完全使用 Rust 为 NVIDIA CUDA 硬件编写和执行高性能 GPU 代码的库和工具。
NVIDIA/nccl
NCCL 是一个针对 GPU 的优化通信例程库,可利用 PCIe、NVLink 和 InfiniBand 实现单节点或跨多个节点的高带宽数据交换。
harveyai/harvey-labs
一个用于评估大语言模型(LLM)智能体在多个法律实务领域中执行真实法律工作的能力的开源基准测试与执行框架。
leancodepl/marionette_mcp
一个 MCP 服务器,使 AI 代理能够连接到正在运行的 Flutter 应用,检查 UI、执行交互并进行自动化烟雾测试。
gotempsh/temps
一个自托管的全功能平台,将部署、可观测性与 AI 基础设施整合为单一二进制文件,替代多个 SaaS 工具。
breferrari/obsidian-mind
通过自动化钩子和语义搜索,为 AI 编码代理提供持久、跨会话记忆的 Obsidian 仓库模板。
GH05TCREW/pentestagent
一个利用自主代理、多代理编排和 MCP 集成安全工具的 AI 驱动渗透测试框架。
ROCm/rocm-systems
用于简化PyTorch构建所需库和工具的开发、CI及集成的ROCm系统项目整合超级仓库
mateaix/mateclaw
基于 Spring Boot 构建的企业级、可插拔代理运行时,提供多供应商故障转移、持久的长期任务管理以及团队可用的受控数字员工。
lumingya/universal-web-api
通过自动化受控浏览器,将基于网页的AI聊天机器人界面转换为OpenAI和Anthropic兼容API的本地API网桥
vercel/streamdown
专为处理 AI 生成内容流式传输而优化的 React Markdown 渲染器,能优雅处理不完整的块,防止格式错乱。
xtreme1-io/xtreme1
一个集成了多模态训练数据标注、整理与本体管理的开源平台,专为计算机视觉和大语言模型(LLMs)设计。
editor-code-assistant/eca
一个与编辑器无关的 AI 助手框架,使用标准化协议将大型语言模型(LLM)链接至各种代码编辑器,提供一致的配对编程体验。
mcpjungle/MCPJungle
一个自托管的 MCP 网关,可将多个 MCP 服务器整合为单一端点,供 Claude 和 Cursor 等 AI 客户端使用。
synthetichealth/synthea
一个合成患者群体模拟器,可生成各种格式(如 FHIR 和 CSV)的真实但非真实的健康记录,用于测试和开发。
mikehasa/agentacct
一个为 AI 编码代理设计的本地优先工作账本,用于追踪实际活动、Token 成本和验证证据,以确保代理声称的完成状态真实可靠。
Augani/dory
专为 Apple Silicon Mac 设计的原生本地开发运行时,将 Docker、Kubernetes 和完整的 Linux 虚拟机整合为一个开源系统。
garagehq/nightcrawler
一个无需云连接、在智能手机上本地运行的自主渗透测试代理,可发现主机、发现漏洞并生成报告。
scanaislop/aislop
一个确定性的扫描器与质量门,可以检测并移除跨 10 种编程语言由 AI 编码代理生成的低质量代码模式。
0xSteph/pentest-ai
Pentest‑AI 是一个开源 Python 工具,可对 Web 应用执行 LLM 驱动的渗透测试。它通过连接的 AI 模型生成探测,再使用确定性奥拉克重现并验证每个漏洞,已验证的发现将存储在可重放的证明胶囊中,并可导出为 SARIF 用于 CI/CD 流水线。该工具支持云模型(Codex、Claude Code)或本地 Ollama 模型,通过 `pipx` 安装,采用 MIT 许可证。
grab/cursor-talk-to-figma-mcp
一个 MCP 集成,允许 Cursor 等 AI 代理通过 WebSocket 服务器和插件读取并以编程方式修改 Figma 设计。
huggingface/transformers.js
一个使用 ONNX Runtime 在浏览器中直接运行预训练机器学习模型的 JavaScript 库,无需服务器。
timescale/pg-aiguide
一个通过 PostgreSQL 文档和精选最佳实践进行语义搜索的工具,以提升生成的数据库代码质量。
inference-sh/skills
通过 inference.sh CLI 使模型能够生成图像、视频、搜索网络并实现社交媒体自动化的 AI Agent 技能与 SDK 集合。
ai-driven-dev/framework
一个企业级SDLC框架,将标准化的工作流、技能和代理安装到AI编码工具中,自动化从功能请求到拉取请求的过程。
mjun0812/flash-attention-prebuild-wheels
flash-attention 库的预编译二进制轮子集合,无需耗时且资源密集的本地编译。
eugene1g/agent-safehouse
一个使用 sandbox-exec 限制 LLM 编码代理在最小权限文件系统访问模型下的 macOS 沙箱工具。
zereight/gitlab-mcp
一个为代理-工作流优化的 GitLab MCP 服务器,支持超过 260 个细粒度工具,使 AI 代理能够管理项目、合并请求和流水线。
tetherto/qvac
一个本地 AI SDK 和模型提供者,可在任何设备上无需云依赖运行 LLM、语音、视觉和生成式 AI 工作负载。
DenisSergeevitch/agents-best-practices
一个供应商中立的最佳实践和蓝图框架,用于设计生产安全的智能体 harness,将模型建议与运行时执行和授权分离。
jmaczan/tiny-vllm
tiny‑vllm 是一个开源的 C++/CUDA LLM 推理引擎(支持可选 AMD‑HIP),从 Safetensors 加载 Llama 3.2 1B 模型,并实现完整的前向传播——包括嵌入、RMSNorm、RoPE、分组查询注意力、Flash 风格 softmax 和分页 KV 缓存等自定义内核。它同时也是一个逐步教学教程,涵盖 Transformer 推理的每个组件,专为学习者和教育者设计。
The-OpenROAD-Project/OpenROAD
一个开源的、自主的半导体数字设计工具,提供无需人工干预的流程,可将 RTL 描述转换为最终的物理布局(GDSII)。
trycompai/comp
一个开源合规平台,可自动化 SOC 2、ISO 27001、HIPAA 和 GDPR 等框架的证据收集和政策管理。
microsoft/agent-host-protocol
一种同步的多客户端状态协议,允许多个客户端通过独立的会话服务器保持对 AI 代理会话的一致视图。
btsouth/omakade
一个统一的 Linux 游戏库管理器,将 Steam、Lutris、Heroic 和模拟器中的游戏聚合到一个以封面为中心的界面中。
thinking-machines-lab/tinker-cookbook
一个通过Tinker API实现语言模型微调的抽象化与配方库,支持SFT、RL和多模态训练。
mlc-ai/xgrammar
一个高性能库,通过约束解码确保 LLM 生成的输出(如 JSON 和正则表达式)100% 结构正确,开销近乎为零。
grafana/mcp-grafana
一个MCP服务器,使AI代理能够与Grafana交互,允许它们查询数据源、管理仪表板和处理可观测性操作。
petergyang/human-review
一个可视化审查工具,允许用户直接编辑 HTML 和 Markdown 文件,并将批量反馈发送给 AI 代理,而非使用聊天提示。
rynfar/meridian
一个本地代理,将 Claude Agent SDK 桥接到标准的 Anthropic 和 OpenAI API,允许第三方 AI 代理使用 Claude Max 订阅访问。
ENTERPILOT/GoModel
一个高性能 AI 网关,为多个 LLM 提供商提供统一 API,内置成本追踪、缓存和故障转移机制。
genkit-ai/genkit
Google 提供的开源框架,用于构建全栈 AI 应用,统一的 API 支持多模型提供商,并集成开发者工具用于测试和监控。
sam70361/aora-bot
一个为 AI 助手、聊天机器人和桌面宠物提供 32 个数据驱动情感状态的零依赖 SVG 和 JavaScript 表达引擎。
PolymathicAI/the_well
一个包含15TB多样化数值物理模拟的大型集合,以及专为计算科学中机器学习代理模型的训练与评估设计的基准测试套件。
k8sgpt-ai/k8sgpt
一款 AI 驱动的工具,用于扫描和诊断 Kubernetes 集群问题,提供通俗易懂的英文解释和修复建议。