metaopt/torchopt

支援顯式、隱式與零階微分的高效 PyTorch 庫,適用於雙層最佳化與元學習。

Esri/deep-learning-frameworks

一個安裝程式集合,捆綁了254個深度學習和機器學習函式庫,用於ArcGIS Pro和Server中解決地理空間AI問題。

otwld/ollama-helm

一個 Helm 圖表,可在 Kubernetes 上部署 Ollama LLM 伺服器,支援 CPU 或 GPU、模型預拉取、自訂模型建構、Ingress/Gateway-API、自動伸縮以及可選的 Knative Service。

FutureMLS-Lab/OSCAR

OSCAR 是一種 2 位 KV 快取量化方法,透過離線譜共變異感知旋轉,將記憶體使用量減少 8 倍,同時保持接近 BF16 的精度。

actions/ai-inference

一個 GitHub Action,可在自動化工作流程中透過 GitHub Copilot CLI 執行 AI 推論。

WenjieDu/SAITS

一種基於自注意力機制的多變量時間序列插補框架,解決了 RNN 基礎模型的速度與記憶體問題

nschaetti/EchoTorch

一個以研究為導向的 PyTorch 模組,用於實現與測試回聲狀態網絡與水庫計算,設計用於整合至深度架構中。

uncomplicate/deep-diamond

一個利用優化原生程式庫實現 CPU 與 GPU 加速的高性能張量與神經網路計算 Clojure 套件。

h2oai/h2o4gpu

一組 GPU 加速的機器學習求解器,可作為 scikit-learn 的即插即用替代品,提供 Python 與 R API,實現更快的模型訓練。

microsoft/onnxruntime-extensions

一個 C/C++ 函式庫,透過自定義算子擴展 ONNX Runtime,以便在 ONNX 圖中處理視覺、文本和 NLP 模型的預處理與後處理。

Seeed-Studio/ModelAssistant

一個用於在低成本嵌入式裝置與微控制器上部署優化AI演算法的工具鏈,支援電腦視覺、異常偵測與情境特定任務。

milvus-io/milvus-lite

專為開發、測試和小規模 AI 應用設計的輕量級、純 Python 本地版 Milvus 向量資料庫。

runekaagaard/mcp-alchemy

一個將 Claude Desktop 連接到 SQL 資料庫的 MCP 伺服器,支援自然語言探索、結構分析與查詢執行。

atomicstrata/atomicmemory

AtomicMemory 是一個開源、可檢查的 LLM 代理記憶體服務。它提供支援修正的更新、與模型無關的嵌入,以及受管雲端和自架 Docker 部署。該專案包含 Rust Core 伺服器、TypeScript SDK、CLI(`am`)、LangChain、LangGraph、Vercel AI 等配接器,以及各種代理主機的外掛程式。快速入門是一行安裝程式,可建立雲端設定檔;`--local` 旗標可在您的機器上執行 Core 容器。記憶體可透過 CLI 或 SDK 以程式方式擷取和查詢,代理可透過 MCP 伺服器連結。採用 Apache 2.0 授權。

blueqat/blueqatSDK

基於 PyTorch 的量子計算 SDK,可在模擬器或真實硬體上模擬、最佳化與執行量子電路,具備可微分執行與專用自旋量子位元支援。

DragonKingpin/Hydra

一個分散式基礎設施框架,使個人能以大型組織的運營能力管理 PB 級資料倉儲、大規模擷取與任務編排。

ROCm/k8s-device-plugin

一個 Kubernetes 設備插件,可將 AMD GPU 註冊並排程為容器叢集中的計算資源。

JamesShi96/project-butler

一種為 AI 編程助手設計的持久記憶系統,使用結構化 Markdown 基礎的記憶堆疊,在會話間維持專案上下文、規則與進度。

SciML/DiffEqGPU.jl

一個用於微分方程求解器的 GPU 加速函式庫,能夠跨多個參數和初始條件進行平行求解。

OpenTabular/DeepTab

一個用於表格資料深度學習的 Python 庫,提供與 scikit-learn 兼容的 API 和 15+ 種神經網路架構的動物園。

scottvr/wtffmpeg

一個命令列工具,使用 LLM 將影片與音訊任務的自然語言描述轉換為可執行的 ffmpeg 命令。

runpod/runpod-python

RunPod 官方 Python 函式庫,提供用於建立 Serverless AI Worker 的 SDK 以及用於管理 GPU 雲 Pod 和端點的 REST API 包裝器。

HeyWillow/willow

Willow 是一個可自託管的推理伺服器,用於快速執行包括語音轉文字、文字轉語音及 LLM 處理在內的語言任務。

EvolvingAgentsLabs/evolving-agents

一個允許開發者提交、比對與合併代理設定與追蹤的版本控制系統與 Claude Agent SDK 插件,以防止效能退化

mratsim/Arraymancer

一個高效能的 n 維張量函式庫,適用於 Nim,提供在 CPU、CUDA 與 OpenCL 後端上進行科學計算、機器學習與深度學習的工具。

langchain-ai/mcpdoc

一個 MCP 伺服器,透過 llms.txt 檔案為 AI agent 提供透明且可稽核的文檔獲取方式。

paperboytm/spool

Spool 是一個用於共享與恢復 AI 編程代理會話的工具,可將其轉換為持久的網頁,允許他人閱讀並在本地繼續工作。

opea-project/GenAIExamples

一個基於微服務的生成式 AI 範例與部署指南集合,旨在簡化在不同硬體平台上的 GenAI 應用程式的擴展與測試。

flytohub/flyto-core

一個為 AI 代理設計的 Python 執行引擎,記錄工作流程的每一步,使使用者能從失敗的步驟重新播放與恢復,而無需重新啟動整個流程。

PaddlePaddle/PaddleScience

基於 PaddlePaddle 的科學計算套件,利用深度學習與自動微分解決物理學、化學與氣象學中的問題。

spitfireuptown/datalinkx

一個使用 Flink 和 SeaTunnel 管理並執行不同數據源之間數據遷移的異構數據同步服務。

Picovoice/picollm

一個跨平台推理引擎,可在從手機到網頁瀏覽器的各類裝置上本地執行高準確度、壓縮的 LLM。

quantumaikr/quant.cpp

一個用於 LLM 推論的高性能 C 語言庫,利用 KV cache 壓縮技術,讓消費級硬體也能實現長文本上下文理解,減少對分塊 RAG 的需求。

thomwebb/gac

一個由 LLM 驅動的 CLI 工具,透過分析程式碼變更與開發者意圖,產生具上下文且格式良好的 Git 提交訊息。

awslabs/generative-ai-cdk-constructs

一個開源的 AWS CDK 擴充套件,提供良好架構的基礎設施模式,讓您能快速在 AWS 上部署生成式 AI 解決方案。

IntelLabs/RAG-FiT

一個透過建立增強資料集與使用 PEFT 微調模型,提升檢索增強生成(RAG)中大型語言模型(LLM)效能的函式庫。

invergent-ai/surogate

Surogate 是一個原生 C++/CUDA 工具包,用於快速訓練 LLM(完整模型、LoRA/QLoRA、RL、MoE、多模態)以及透過 OpenAI 兼容 HTTP API 提供高吞吐量服務。支援 BF16、FP8、NVFP4、GGUF 量化,多 GPU/CPU 離線,推測解碼,以及執行時 LoRA。基準測試顯示在 RTX 50 與 H100 硬體上,每秒 token 數比 vLLM/llama.cpp 高出 2–7 倍。

SandAI-org/MagiCompiler

一種針對 Transformer 類架構的進階編譯器與執行時增強框架,可優化訓練與多模態推論的記憶體與運算效率。

sepandhaghighi/pycm

一個用於 Python 的多類別混淆矩陣函式庫,為評估分類模型提供廣泛的統計指標與視覺化工具。

im4codes/imcodes

為程式碼代理提供訊息與記憶層,支援遠端機器控制、跨 AI 提供商共享上下文,以及監督式交付流程。

oxylabs/ai-crawler-py

一個使用自然語言提示的 AI 驅動網路爬蟲,可發現相關頁面並從網站中提取結構化的 JSON 或 Markdown 資料。

microsoft/genaiops-promptflow-template

一個 LLMOps 模板,使用 Prompt flow 簡化 LLM 應用程式的端到端生命週期,從本地實驗與評估到生產部署。

traceloop/openllmetry-js

一個開源的觀測性函式庫,適用於 JavaScript/TypeScript LLM 應用程式,使用 OpenTelemetry 追蹤對 LLM 供應商與向量資料庫的呼叫。

morphik-org/morphik-core

一種多模態檢索引擎,使 AI 應用能夠在不丟失空間或視覺上下文的情況下,搜尋並理解 PDF 和圖表等視覺豐富的文檔。

aavetis/PRarena

一個追蹤系統和儀表板,透過分析 AI 編碼代理在 GitHub 上的拉取請求合併率來比較其成功率。

Dong90/oh-my-taiyiforge

一個狀態機引擎,將 AI 程式編寫轉化為結構化的九階段工程管線,並在多個 AI 工具間提供統一指令。

jMetal/jMetalPy

一個用於多目標最佳化的 Python 框架,提供廣泛的進化演算法、基準問題與統計分析工具。

sknetwork-team/scikit-network

一個使用稀疏矩陣實現記憶體高效網路分析的圖機器學習Python程式庫。