gavamedia/deltafin
Deltafin 是一個基於 Rust 的原生二進制檔,可在消費級硬體(macOS arm64 或 Linux x86_64/aarch64)上執行完整的 2.8T 參數 Kimi K3 混合專家模型。保留全部 16 個專家,支援完整下載與按需串流安裝,可選 Qwen 草稿模型加速,提供 CLI 用於聊天/補全,以及 OpenAI 相容伺服器。專案採用 MIT 許可證,模型權重依其原始條款提供。
mmschlk/shapiq
一個用於近似任意階 Shapley 相互作用的 Python 套件,以解釋機器學習模型預測中的特徵協同作用。
automateyournetwork/netclaw
一個 CCIE 級別的 AI 網路工程代理,使用數百種技能和 MCP 整合,在多供應商網路中自動化監控、故障排除和設定。
NadirRouter/NadirClaw
一個本地 LLM 路由代理,透過將提示詞路由到最便宜的可行模型,並僅在必要時升級到高階模型,將 API 成本降低 40-70%。
FlashML-org/flashlib
一個基於 Triton 與 CuteDSL 建構的 GPU 庫,提供 k-means、PCA 與 ANN 搜尋等經典機器學習運算子的高效能實作。
google-deepmind/simply
一個基於 JAX 的極簡且可擴展的研究代碼庫,旨在為人類和 AI 智能體實現快速的 LLM 迭代與自動化的 AI 研究。
ROCm/aiter
一個針對 AMD ROCm 的高效能 AI 運算子庫,為 AI 推論與訓練工作負載提供最佳化的 GPU 核心。
apple/foundation-models-utilities
適用於 Apple Foundation Models 框架的實用工具套件,提供聊天補全客戶端、上下文視窗管理以及 LLM 的動態技能啟用功能。
pipecat-ai/voice-ui-kit
一個基於 React 的 UI 工具包,提供元件與範本,可快速建構與部署 Pipecat AI 語音應用的使用者介面。
microsoft/RAMPART
專為代理型 AI 應用程式的紅隊測試與風險評估設計的原生 pytest 安全與安全測試框架。
stevibe/BenchLocal
一個以本地為先的桌面應用程式,用於在各種基準測試集(稱為 Bench Packs)上執行與比較本地或遠端模型的 LLM 性能。
vgvassilev/clad
一個用於 C++ 的 Clang 編譯器外掛程式,透過轉換原始碼來自動產生導數、梯度和 Hessian 矩陣的函式。
scverse/rapids-singlecell
一個與 scverse 生態系統整合、利用 NVIDIA RAPIDS 加速大規模數據集運算的 GPU 加速單細胞分析程式庫。
dorjeduck/llm.mojo
將 Andrej Karpathy 的 llm.c 移植至 Mojo 語言,展示了 Mojo 在低階 LLM 訓練中可達到與 C 語言相當的效能。
WeZZard/jlens-qwen36
適用於Apple Silicon上Qwen3.6-27B的視覺化除錯器,利用雅可比透鏡視覺化和編輯模型的內部潛在表示。
AlexsJones/llmserve
一個基於 TUI 的模型管理器和伺服器啟動器,自動偵測推論後端和本機模型檔案,以簡化 LLM 的服務提供。
tuchg/Lucarne
一個輕量級背景守護程序,將本地 AI 代理連接到 Telegram 與 WeChat,讓使用者可透過行動通知遠端監控與控制代理。
NVIDIA-NeMo/Evaluator
一個具備基準測試環境、可插拔攔截代理用於流量管理,以及用於模型性能分析的多格式報告功能的 LLM 評估框架。
flagos-ai/FlagTree
FlagTree 是一個面向多種 AI 晶片的統一開源編譯器,透過統一各種基於 Triton 的後端,實現「一次開發,隨處執行」的工作流程。
unslothai/unsloth-zoo
Unsloth 的工具程式庫,可大幅降低 VRAM 使用需求,實現更快速且記憶體效率更高的 LLM、視覺與 TTS 模型微調。
standardagents/composer-api
一個本地 macOS 伺服器,將 Cursor 的第一方模型(如 Composer 2.5 和 Grok 4.6)作為 OpenAI 兼容 API 端點公開。
kubeshark/kubeshark
一款用於 Kubernetes 的網路觀測工具,利用 eBPF 對流量進行索引,並透過 MCP 集成提供 AI 驅動的故障排除功能。
maxritter/pilot-shell
一個包覆 Claude Code 與 Codex 的專業上下文與工程封裝系統,為生產級軟體提供持久上下文、品質門禁與執行時驗證。
Agent-Field/pr-af
一個開源代理式程式碼審查工具,使用動態管線和證據基礎來執行深度架構審計,以找出系統性漏洞。
NVIDIA/cuvs
一個用於向量相似性搜尋和聚類的 GPU 加速函式庫,為 AI 和資料挖掘提供高效能的近似最近鄰演算法實作。
codelibs/fess
一款建構於 OpenSearch 的企業級搜尋伺服器,可爬取並索引來自網站、檔案系統和雲端資料儲存的文件,以提供集中式全文搜尋。
syncable-dev/memtrace-public
一種為 AI 編碼代理設計的結構化記憶系統,將程式碼庫轉化為本地、雙時相的知識圖譜,實現快速、低成本的架構查詢。
JuliaDynamics/Agents.jl
一個高效能的 Julia 框架,用於基於代理的建模,能模擬自主代理對環境及彼此的反應。
Haervwe/open-webui-tools
一套為 Open WebUI 提供的綜合工具集,包含 20 多種工具、函式管道與篩選器,新增了學術研究、多模態生成與自主代理功能。
kiwifs/kiwifs
一個為 AI 代理與人類提供可寫、可搜尋、可版本化的 Markdown 檔案系統,支援原生 MCP 與基於 Git 的審計功能。
agentic-in/inferoa
一個針對推理而生的代理設計,用於迴路工程,優化 token 使用與快取重用,以維持高效、長期遞迴的 AI 工作流程。
leyten/shard
一種協定與引擎,透過匯集分散式 GPU 的 VRAM 與運算能力,在開放互聯網上運行大型 AI 模型。
9tigerio/db2rest
一個低程式碼的 REST API 平台,能自動為資料庫建立安全端點,讓 AI 與資料驅動的應用程式開發更快速。
bghira/SimpleTuner
一個用於微調影像、影片與音訊生成模型的綜合性訓練框架,具備使用者友善的 Web UI 與企業級編排能力。
lucienhuangfu/eLLM
針對 CPU 伺服器的 LLM 推論框架,透過優化記憶體使用,在長時程、多輪推論與超長上下文任務中實現超越 GPU 的效能。
jjang-ai/mlxstudio
一款在 Apple Silicon 上使用 MLX 框架本地執行 LLM、VLM 與影像生成模型的原生 macOS 桌面應用程式。
openvinotoolkit/model_server
OpenVINO Model Server (OVMS) 是一個 C++ 推理伺服器,透過 OpenAI 兼容 REST 或 KServe gRPC API 提供 LLM、視覺-語言模型與傳統深度學習模型。專為 Intel CPU、GPU 和 NPU 優化,提供連續批次處理、串流、模型版本控制、熱重載與 Prometheus 指標等功能。可透過 Docker、裸機二進位檔或 Kubernetes 部署,支援多種模型格式(TensorFlow、ONNX、OpenVINO IR、GGUF 等),並與標準客戶端程式庫整合。
john-rocky/CoreML-Models
一個完整的預轉換 Core ML 模型與範例應用程式集合,可用於在 iOS 和 macOS 上實現設備端 AI。
weslynn/AlphaTree-graphic-deep-neural-network
一個結構化的視覺路線圖與資源集合,透過連結論文、程式碼與深度學習模型圖示,協助開發者轉向 AI 應用工程。
Nixtla/neuralforecast
一個包含超過 30 種先進神經預測模型的套件,專為時間序列預測的高效率、易用性與效能而設計。
plurai-ai/intellagent
一個多代理框架,透過模擬數千個真實的邊緣案例互動,對話式 AI 代理進行壓力測試,以發現失效點並優化效能。
GoogleCloudPlatform/agent-starter-pack
一個 Python 套件,提供適合上線的範本與基礎建設自動化,讓在 Google Cloud 上開發 GenAI 代理人從原型到正式環境的流程更簡單。
lumina-ai-inc/chunkr
一個開源文件智能 API,透過版面分析與 OCR 將 PDF、PPT、Word 文件與影像轉換為結構化、RAG 就緒的區塊。
automl/auto-sklearn
一個作為 scikit-learn 評估器即插即用替代品的自動機器學習工具包,用於自動化模型選擇與超參數調校。
auto-differentiation/xad
為性能關鍵系統提供前向與反向模式自動微分的高性能 C++ 庫,執行時開銷極低。
mcpware/cross-code-organizer
一個用於 AI 編碼工具的跨框架設定管理器,提供統一儀表板來管理記憶、技能和 MCP 伺服器,同時最佳化令牌使用並偵測工具投毒。
caioricciuti/duck-ui
Duck‑UI 是一個開源的瀏覽器端工作台,用於 DuckDB,讓您可在不需任何後端伺服器的情況下撰寫 SQL、執行筆記本、視覺化結果、匯入多種檔案格式,並可選使用 AI 助手進行自然語言轉 SQL。
workos/auth.md
AI代理代表使用者向服務進行驗證的代理註冊協定參考實作,透過身分證明與主張儀式實現。