stripe/rainier
基于马尔可夫链蒙特卡洛的高性能 Scala API,使用户能够构建生成模型并从观测数据中推断后验分布。
tidymodels/yardstick
一个基于 tidy data 原则的 R 包,提供一致的接口用于计算分类和回归模型的性能指标。
huggingface/gpu-fryer
一款用于检测 NVIDIA GPU 热节流和性能下降的 GPU 压力测试工具,确保 ML 工作负载达到最佳性能。
JuliaDiff/TaylorSeries.jl
一个用于计算一个或多个变量的泰勒多项式展开的 Julia 包,支持自动微分和积分微积分。
cirolini/genai-code-review
一个使用 LLM 审查拉取请求差异的 GitHub Action,通过评论预算优先展示高价值发现,防止评审疲劳。
nanbingxyz/mcpsvr
一个社区驱动的 Web 目录和注册表,用于发现、审查和安装 Model Context Protocol (MCP) 服务器。
togethercomputer/together-cookbook
这是一个用于在 Together AI 上构建开源模型的代码与指南集合,涵盖了代理、微调、RAG 和多模态视觉等内容。
huggingface/ratchet
一个跨平台的机器学习开发者工具包,可在浏览器和原生应用程序中为 Whisper 和 Phi 等模型提供快速的 GPU 加速推理。
intelligo-dev/intelligo
一个为垂直 AI SaaS 设计的应用框架,提供认证、计费、工作区和使用量计量等运营基础设施,允许开发者集成自己的 AI 代理。
ryoppippi/curxy
通过 Cloudflare 隧道提供公共端点,使 Cursor 编辑器能够连接到本地 Ollama 服务器的代理工作程序。
microsoft/hummingbird
一个将训练好的传统机器学习模型编译为张量运算的库,利用 PyTorch 等神经网络框架来加速推理。
spotify/voyager
Voyager 是一个用于向量/嵌入数据的快速内存内近似最近邻搜索库,提供 Python、Java 和 Scala 绑定,并使用共享的基于 HNSW 的索引格式。它已在 Spotify 进行生产环境验证,支持 macOS/Linux/Windows(包含 Apple Silicon),并采用 Apache 2.0 授权。
huggingface/search-and-learn
Search and Learn 是一个 Hugging Face 工具包,让您可以透过分配更多的推理时间计算资源来提升开源 LLM 的效能。它提供了用于三种基于搜索的推理方法(Best-of-N、beam search、Diverse Verifier Tree Search)的即用型脚本和 YAML“配方”,并包含一个小型 Python 函式库、测试和文件,用于重现作者的扩展计算实验。
torcheeg/torcheeg
一个基于 PyTorch 的 EEG 信号分析库,提供统一的数据 IO、预处理转换和深度学习模型,以加速脑信号研究。
qlabs-eng/slowrun
NanoGPT Slowrun 是一个基准测试,用于评估在数据固定(100 M tokens)但计算资源近乎无限的情况下,语言模型的训练效果。四个赛道(15 分钟、1 小时、2 小时、无限)让参与者可以尝试重度正则化、大型模型和奇特的优化器。该仓库提供了数据准备脚本、每个赛道的训练代码,以及记录每一次改进(例如 swiglu、U-Net、meta-gradients、ensembles)的世界纪录表。若要尝试,请 clone 仓库,安装 Python 依赖项,执行 prepare_data.py,然后在 8-GPU H100 节点上使用 torchrun 启动训练。提交 PR 并获得更低的验证损失,即可在排行榜上占有一席之地。
kagent-dev/kmcp
Model Context Protocol (MCP) 的开发平台和控制平面,可简化在 Kubernetes 上构建、部署和管理 MCP 服务器的流程。
CloudDetail/apo
一个利用 AI 代理和专用数据平面来自动化系统监控中的根本原因分析和诊断工作流的智能可观测性平台。
iimeta/fastapi
一个企业级的 LLM API 集成系统,提供统一的 OpenAI 兼容接口,用于访问多个 AI 模型提供商。
ScottRBK/forgetful
一个使用原子记忆和自动生成知识图谱的 MCP 服务器,为 AI 代理提供共享且持久的知识库。
sgl-project/rbg
一个用于通过多角色协作和内置服务发现来协调分布式、有状态AI推理工作负载的Kubernetes API。
containers/podman-desktop-extension-ai-lab
一个为 Podman Desktop 设计的扩展,允许用户使用容器下载、运行和实验本地 LLM 和 AI 应用程序。
huggingface/optimum-benchmark
Optimum‑Benchmark 是一个 Hugging Face 库,用于测量 Transformers、Diffusers、PEFT 等模型在多种后端(PyTorch、ONNX Runtime、OpenVINO、vLLM、TensorRT‑LLM、IPEX、Llama‑Cpp、Py‑TXI)和设备(CPU、CUDA、ROCm、XPU、HPU)上的推理和训练性能(延迟、内存、能耗、吞吐量)。它提供 Python API 和基于 Hydra 的 CLI,支持分布式启动,并输出可复现的报告,可推送到 Hugging Face Hub。
snorkel-team/snorkel
一个用于通过弱监督以编程方式构建和管理训练数据的框架,旨在取代机器学习流程中的手动标注。
huggingface/evaluate
一个用于机器学习模型标准化评估与比较的库,提供涵盖 NLP 和计算机视觉领域的广泛指标。
anush008/fastembed-rs
一个用于本地生成文本、图像和稀疏向量嵌入以及重排序的 Rust 库,利用 ONNX Runtime 实现高性能。
EvanZhouDev/llm.pdf
一个概念验证项目,通过将 llama.cpp 编译为 asm.js 并通过 base64 嵌入模型,使大型语言模型能够完全在 PDF 文件内运行。
kelindar/search
一个用于精确余弦相似度向量搜索与索引的 Go 库,整合支持本地 GGUF 嵌入与 OpenAI 兼容的云端 API。
fferflo/einx
一种通用的标记法与 Python 库,用于在 PyTorch、JAX 和 NumPy 等框架中制定复杂的张量运算,无需手动重塑。
koaning/embetter
一个与 scikit-learn 兼容的文本和视觉嵌入库,允许用户轻松地将预训练编码器集成到机器学习流水线中。
Ajay150313/agentsre
一种针对代理 AI 的可靠性仪器库,通过专用 SRE 指标(SLIs)监控语义失败和行为漂移,防止生产环境故障。
ra1nty/DXcam
一个高性能的 Windows 屏幕捕获库,为 Python 提供低延迟、高帧率的画面,适用于 AI 代理和计算机视觉工作负载。
NeuralEnsemble/PyNN
一种与模拟器无关的 Python 语言,用于构建可在多个模拟器和神经形态硬件上无需修改即可运行的神经元网络模型。
arrayfire/arrayfire
一个通用张量库,为 CPU、GPU 和其他硬件加速器上的并行计算提供高级抽象。
YeeZTech/YeeZ-Privacy-Computing
Fidelius 是一款基于 Intel SGX 的隐私计算中间件,通过确保原始数据在可供计算的同时对参与方不可见,实现安全的数据协作。
esrrhs/majiang_algorithm
一个高性能的麻将算法库,利用预先计算的查表法进行毫秒级胡牌检测与 AI 驱动的舍牌决策。
KristofferC/NearestNeighbors.jl
一个 Julia 包,使用 KD 树、球树执行高效的最近邻搜索,并支持周期边界条件。
ddemidov/vexcl
一个用于 OpenCL 和 CUDA 的 C++ 向量表达式模板库,可减少 GPGPU 开发的样板代码。
Farama-Foundation/SuperSuit
一组用于 Gymnasium 和 PettingZoo 的强化学习环境预处理的微包装器集合。
Datayoo/HuggingFists
一款低代码数据流工具,允许用户无需大量编码即可使用 LLM 和 Hugging Face 模型可视化地构建和调度工作流。
Jazee6/cloudflare-ai-web
一个基于 Web 的 AI 平台界面,允许用户通过 Cloudflare Workers AI 和 AI Gateway 快速部署多模型聊天 UI。
yzhao062/combo
combo 是一个用于组合机器学习模型和得分的 Python 工具箱。它提供统一的 API,支持堆叠、动态分类器/集成选择和异常检测器融合等集成技术,适用于 scikit-learn、XGBoost、LightGBM 和 pyod 提供的模型,涵盖分类、聚类和异常检测任务。
DaoyuanLi2816/mini-verl
一种通过分阶段调度模型角色,从而在单块 NVIDIA GPU 上运行 verl RLHF 实验(如 PPO 和 GRPO)的工具。
apple-aiml-research/ml-ane-transformers
一个基于 PyTorch 的库,提供针对 Apple Neural Engine 优化的 Transformer 模型的参考实现和 Hugging Face 兼容实现,在 A14/M1 级设备上可实现最高 10 倍推理速度提升和 14 倍内存降低。
hplt-project/sacremoses
一个文本预处理库,为 NLP 数据集提供分词、反分词、归一化和真大小写处理工具。
chi2liu/ABC-GRPO
一种非对称且自适应的 GRPO 强化学习算法改进,使用四个独立剪裁边界防止 LLM 推理任务中的熵崩溃并提升泛化能力。
yzhao062/SUOD
異種モデルのアンサンブルに対する学習と予測を最適化する大規模な無監督異常検出の加速フレームワークです。
aniketkarne/ClaudeNightsWatch
一个面向 Claude CLI 的自主任务执行系统,监控使用窗口并自动从 Markdown 文件运行预定义任务。
Azure-Samples/ai-rag-chat-evaluator
一个用于评估 RAG 聊天应用程序的工具包,通过使用基于 GPT 和基于代码的指标,将生成的答案与真实数据进行基准测试。