stripe/rainier
基於馬爾可夫鏈蒙特卡洛的高性能 Scala API,使使用者能夠建立生成模型並從觀測資料中推斷後驗分佈。
tidymodels/yardstick
一個基於 tidy data 原則的 R 套件,提供一致的介面來計算分類與回歸模型的效能指標。
huggingface/gpu-fryer
一款用於檢測 NVIDIA GPU 熱節流與效能下降的 GPU 壓力測試工具,確保 ML 工作負載達到最佳效能。
JuliaDiff/TaylorSeries.jl
一個用於計算一個或多個變數的泰勒多項式展開的 Julia 套件,支援自動微分與積分微積分。
cirolini/genai-code-review
一個使用 LLM 審查拉取請求差異的 GitHub Action,透過評論預算優先呈現高價值發現,防止審查疲勞。
nanbingxyz/mcpsvr
一個社群驅動的 Web 目錄與註冊表,用於發現、評論與安裝 Model Context Protocol (MCP) 伺服器。
togethercomputer/together-cookbook
這是一個用於在 Together AI 上構建開源模型的程式碼與指南集合,涵蓋了代理、微調、RAG 和多模態視覺等內容。
huggingface/ratchet
一個跨平台的機器學習開發者工具包,可在瀏覽器和原生應用程式中為 Whisper 和 Phi 等模型提供快速的 GPU 加速推論。
intelligo-dev/intelligo
一個為垂直 AI SaaS 設計的應用框架,提供認證、計費、工作區和使用量計量等營運基礎設施,允許開發者整合自己的 AI 代理。
ryoppippi/curxy
透過 Cloudflare 隧道提供公開端點,讓 Cursor 編輯器能連接到本地 Ollama 伺服器的代理工作程序。
microsoft/hummingbird
一個將訓練好的傳統機器學習模型編譯為張量運算的函式庫,利用 PyTorch 等神經網路框架來加速推論。
spotify/voyager
Voyager 是一個用於向量/嵌入數據的快速記憶體內近似最近鄰搜尋庫,提供 Python、Java 和 Scala 綁定,並使用共享的基於 HNSW 的索引格式。它已在 Spotify 進行生產環境驗證,支援 macOS/Linux/Windows(包含 Apple Silicon),並採用 Apache 2.0 授權。
huggingface/search-and-learn
Search and Learn 是一個 Hugging Face 工具包,讓您可以透過分配更多的推理時間計算資源來提升開源 LLM 的效能。它提供了用於三種基於搜尋的推理方法(Best-of-N、beam search、Diverse Verifier Tree Search)的即用型腳本和 YAML「配方」,並包含一個小型 Python 函式庫、測試和文件,用於重現作者的擴展計算實驗。
torcheeg/torcheeg
一個基於 PyTorch 的 EEG 訊號分析函式庫,提供統一的資料 IO、預處理轉換和深度學習模型,以加速腦訊號研究。
qlabs-eng/slowrun
NanoGPT Slowrun 是一個基準測試,用於評估在數據固定(100 M tokens)但計算資源近乎無限的情況下,語言模型的訓練效果。四個賽道(15 分鐘、1 小時、2 小時、無限)讓參與者可以嘗試重度正則化、大型模型和奇特的優化器。該儲存庫提供了數據準備腳本、每個賽道的訓練代碼,以及記錄每一次改進(例如 swiglu、U-Net、meta-gradients、ensembles)的世界紀錄表。若要嘗試,請 clone 儲存庫,安裝 Python 依賴項,執行 prepare_data.py,然後在 8-GPU H100 節點上使用 torchrun 啟動訓練。提交 PR 並獲得更低的驗證損失,即可在排行榜上佔有一席之地。
kagent-dev/kmcp
Model Context Protocol (MCP) 的開發平台與控制平面,可簡化在 Kubernetes 上建構、部署與管理 MCP 伺服器的流程。
CloudDetail/apo
一個利用 AI 代理與專用資料平面,自動化系統監控中根本原因分析與診斷工作流程的智慧可觀測性平台。
iimeta/fastapi
一個企業級的 LLM API 集成系統,提供統一的 OpenAI 相容介面,用於存取多個 AI 模型供應商。
ScottRBK/forgetful
一個使用原子記憶與自動生成知識圖譜的 MCP 伺服器,為 AI 代理提供共享且持久的知識庫。
sgl-project/rbg
一個透過多角色協作與內建服務發現來協調分散式、有狀態AI推論工作負載的Kubernetes API。
containers/podman-desktop-extension-ai-lab
一個為 Podman Desktop 所設計的擴充功能,讓使用者能使用容器下載、執行與實驗本地的 LLM 與 AI 應用程式。
huggingface/optimum-benchmark
Optimum‑Benchmark 是一個 Hugging Face 庫,用於測量 Transformers、Diffusers、PEFT 等模型在多種後端(PyTorch、ONNX Runtime、OpenVINO、vLLM、TensorRT‑LLM、IPEX、Llama‑Cpp、Py‑TXI)和設備(CPU、CUDA、ROCm、XPU、HPU)上的推論與訓練性能(延遲、記憶體、能源、吞吐量)。它提供 Python API 和基於 Hydra 的 CLI,支援分散式啟動,並輸出可重現的報告,可推送到 Hugging Face Hub。
snorkel-team/snorkel
一個用於透過弱監督以程式化方式構建和管理訓練資料的框架,旨在取代機器學習流程中的手動標註。
huggingface/evaluate
一個用於機器學習模型標準化評估與比較的函式庫,提供涵蓋 NLP 與電腦視覺領域的廣泛指標。
anush008/fastembed-rs
一個用於本地生成文字、圖像和稀疏向量嵌入以及重排序的 Rust 函式庫,利用 ONNX Runtime 實現高效能。
EvanZhouDev/llm.pdf
一個概念驗證專案,透過將 llama.cpp 編譯為 asm.js 並透過 base64 嵌入模型,使大型語言模型能夠完全在 PDF 檔案內執行。
kelindar/search
一個用於精確餘弦相似度向量搜尋與索引的 Go 函式庫,整合支援本地 GGUF 嵌入與 OpenAI 相容的雲端 API。
fferflo/einx
一種通用的標記法與 Python 函式庫,用於在 PyTorch、JAX 和 NumPy 等框架中制定複雜的張量運算,無需手動重塑。
koaning/embetter
一個與 scikit-learn 相容的文字與視覺嵌入函式庫,讓使用者能輕鬆將預訓練編碼器整合至機器學習管線中。
Ajay150313/agentsre
一種針對代理 AI 的可靠性儀器庫,透過專用 SRE 指標(SLIs)監控語義失敗與行為漂移,防止生產環境故障。
ra1nty/DXcam
一個高效能的 Windows 螢幕擷取程式庫,為 Python 提供低延遲、高幀率的畫面,適用於 AI 代理和電腦視覺工作負載。
NeuralEnsemble/PyNN
一種與模擬器無關的 Python 語言,用於構建可在多個模擬器和神經形態硬體上無需修改即可運行的神經元網路模型。
arrayfire/arrayfire
一個通用張量函式庫,為 CPU、GPU 及其他硬體加速器上的平行運算提供高階抽象。
YeeZTech/YeeZ-Privacy-Computing
Fidelius 是一種基於 Intel SGX 的隱私運算中介軟體,透過確保原始資料可供計算但對參與各方不可見,實現安全的資料協作。
esrrhs/majiang_algorithm
一個高效能的麻將演算法函式庫,利用預先計算的查表法進行毫秒級的胡牌檢測與 AI 驅動的捨牌決策。
KristofferC/NearestNeighbors.jl
一個 Julia 套件,使用 KD 樹、球樹執行高效的最近鄰搜尋,並支援週期邊界條件。
ddemidov/vexcl
一個用於 OpenCL 與 CUDA 的 C++ 向量表示式模板函式庫,可減少 GPGPU 開發的重複程式碼。
Farama-Foundation/SuperSuit
一組用於 Gymnasium 與 PettingZoo 的強化學習環境預處理的微包裝器集合。
Datayoo/HuggingFists
一款低程式碼資料流工具,允許使用者無需大量編碼即可使用 LLM 和 Hugging Face 模型視覺化地建構和排程工作流程。
Jazee6/cloudflare-ai-web
一個基於 Web 的 AI 平台介面,允許使用者透過 Cloudflare Workers AI 和 AI Gateway 快速部署多模型聊天 UI。
yzhao062/combo
combo 是一個用於組合機器學習模型與得分的 Python 工具箱。它提供統一的 API,支援堆疊、動態分類器/集成選擇、異常檢測器融合等集成技術,支援 scikit-learn、XGBoost、LightGBM 與 pyod 提供的模型,適用於分類、聚類與異常檢測任務。
DaoyuanLi2816/mini-verl
一種透過分階段排程模型角色,從而在單塊 NVIDIA GPU 上執行 verl RLHF 實驗(如 PPO 和 GRPO)的工具。
apple-aiml-research/ml-ane-transformers
一個基於 PyTorch 的程式庫,提供針對 Apple Neural Engine 優化的 Transformer 模型的參考實作與 Hugging Face 兼容實作,在 A14/M1 級裝置上可實現最高 10 倍推理速度提升與 14 倍記憶體降低。
hplt-project/sacremoses
一個文字預處理函式庫,為 NLP 資料集提供分詞、去分詞、正規化和真實大小寫還原工具。
chi2liu/ABC-GRPO
一種非對稱且自適應的 GRPO 強化學習演算法改進,使用四個獨立剪裁邊界防止 LLM 推理任務中的熵崩潰並提升泛化能力。
yzhao062/SUOD
針對異質模型集合的訓練與預測進行最佳化的大型非監督異常檢測加速框架。
aniketkarne/ClaudeNightsWatch
一個面向 Claude CLI 的自動化任務執行系統,監控使用視窗並自動從 Markdown 檔案執行預先定義的任務。
Azure-Samples/ai-rag-chat-evaluator
一個用於評估 RAG 聊天應用程式的工具包,透過使用基於 GPT 和基於程式碼的指標,將生成的答案與真實數據進行基準測試。