Azure-Samples/AI-Gateway
基於 Azure API Management 建構的企業級 AI 網關框架,為管理 AI 模型、工具和代理提供集中式安全、成本控制和可觀測性。
Nya-Foundation/NyaProxy
一個輕量級 API 網關,可集中管理憑證注入、速率限制與負載平衡,適用於使用 API 金鑰或 Bearer Token 的服務。
Fadi002/de4py
結合本地 LLM 與 AST 清理、模式比對的高階 Python 去混淆工具,幫助惡意軟體分析師與逆向工程師恢復可讀程式碼。
kaito-project/kaito
一個自動化 LLM 推理、微調與 RAG 引擎部署、擴展與管理的 Kubernetes Operator 套件。
kubeflow/community-distribution
一種用於在各種 Kubernetes 叢集上安裝 Kubeflow 平台的清單分發,提供完整的端對端機器學習環境。
limbo018/DREAMPlace
一個利用GPU加速的VLSI佈局工具包,將晶片元件佈局視為深度學習最佳化問題,相比傳統CPU工具實現巨大速度提升。
langwatch/scenario
一個使用模擬、用戶模擬器和裁判代理來評估 AI 代理在多輪對話中行為和穩健性的代理測試框架。
agent-sh/agentsys
一個模組化執行時與編排系統,讓 AI 代理透過結構化流程、品質門檻與專用代理角色,自動化軟體開發生命週期。
mistralai/mistral-common
一套為 Mistral AI 模型提供的工具集,提供開源分詞器(tokenizers)以及針對文本、圖像和音訊的 Pydantic 驗證功能。
xlang-ai/Spider2
一個用於在多種SQL方言與複雜資料環境中,評估LLM在真實企業級文字轉SQL工作流程中表現的基準測試。
guidance-ai/llguidance
一個高性能的約束解碼庫,透過強制執行 JSON 模式、正規表示式與上下文無關文法,確保 LLM 輸出的結構化資料。
jonigl/mcp-client-for-ollama
一個終端機型用戶端,可將本機 Ollama LLM 連線至 Model Context Protocol (MCP) 伺服器,讓本機模型能執行工具並存取外部資源。
SHAdd0WTAka/Zen-Ai-Pentest
一個自主的、AI 驅動的滲透測試框架,可協調 72+ 個安全工具,實現偵察、利用和報告的自動化。
erpipe-org/mcp-odoo
一個將任何 Odoo 16+ 資料庫轉換為 AI 就緒介面的 Model Context Protocol 伺服器,使 LLM 能在無需企業 AI 模組的情況下安全查詢與管理 Odoo 資料。
stanford-star/relbench
RelBench 是一個用於關係型資料庫上預測機器學習的開源基準,提供統一框架,用於載入和評估多表資料上的模型。
aws/mcp-proxy-for-aws
一個讓 AI 應用與代理能連接到 AWS 主機 MCP 伺服器的橋接器,可自動處理 AWS IAM(SigV4)驗證。
sgl-project/sglang-jax
針對 Google TPU 優化的高性能 JAX 推理引擎,為 LLM 與多模態模型提供高吞吐量與低延遲。
astroautomata/SymTorch
一個用於深度神經網絡符號蒸餾的框架,利用 PySR 將模型組件近似為符號方程式,以提升可解釋性。
sanjay3290/ai-skills
為 AI 程式設計助手提供的便攜式、標準化技能集合,使其能夠與資料庫、生產力工具和雲端基礎設施進行互動。
AltimateAI/altimate-code
一個開源的資料工程框架,為LLM提供決定性工具,實現跨主要雲端平台的SQL分析、欄位級血緣追蹤與資料倉儲連接。
mlco2/ecologits
一個用於追蹤透過 API 使用的生成式 AI 模型之能源消耗與溫室氣體排放的工具。
facebookresearch/fairseq2
一個用於訓練自訂內容生成模型的序列建模工具包,具備模組化架構與對超過 70B 參數模型的可擴展訓練能力。
eastriverlee/LLM.swift
一個在 Apple 平台上執行本地 LLM 的 Swift 函式庫,提供結構化輸出、工具使用與思考鏈推理的高階抽象。
opral/lix
一個將檔案、SQL 資料庫與版本控制整合為單一 ACID 相容系統的嵌入式倉儲系統,支援即時協作與資料歷史記錄。
ROCm/AMDMIGraphX
AMD MIGraphX 是一個在 AMD 硬體上加速機器學習模型推理的圖推理引擎。
openvinotoolkit/open_model_zoo
一組優化的預訓練深度學習模型與工具,旨在加速高性能推理應用程式的開發與部署。
PINTO0309/onnx2tf
一個將 ONNX 模型轉換為 LiteRT、TFLite、TensorFlow 和原生 PyTorch 程式碼的工具,以促進跨框架部署。
skforecast/skforecast
一個整合 scikit-learn 相容模型、統計方法與基礎模型的統一 API 時間序列預測 Python 庫。
bionic-gpt/bionic-gpt
一個開源、自託管的代理框架,供內部 AI 團隊透過沙箱化的程式碼執行與模型獨立性來建構主權 AI 工作流程。
vearch/vearch
Vearch 是一個雲原生分散式向量資料庫,能為 AI 應用提供嵌入向量的高效相似度搜尋。
Windecay/ComfyUI-ReservedVRAM
一個ComfyUI節點,即時動態調整預留的VRAM,以防止OOM錯誤並最佳化GPU記憶體使用。
goehou/tabbit-toy
一個適用於 Tabbit 瀏覽器的 OpenAI 相容 API 代理,允許使用者在第三方客戶端中存取 Tabbit 整合的 AI 模型。
trailofbits/claude-code-devcontainer
一個容器化的開發環境,透過啟用 `bypassPermissions` 使 Claude Code 在隔離環境中執行,將 AI 的檔案系統存取限制在專案目錄與暫時容器內,為安全審計與不可信程式碼探索提供安全沙箱。
aghyad97/browserytools
一個注重隱私的 152 個基於瀏覽器的實用工具集合,透過 Transformers.js 提供本地裝置 AI 進行轉錄、翻譯和影像處理。
sauravrao637/oproxy
一個用於檢查、重放和修改來自瀏覽器、應用和 API 的網路流量的本地代理伺服器,具備 AI 驅動的控制平面。
ROCm/rocm-examples
ROCm 平台的範例與教學集合,提供 HIP 執行時功能、GPU 加速應用與 AI 模型執行的程式碼。
milanglacier/minuet-ai.el
一個由 LLM 驅動的 Emacs 程式碼補全套件,支援多個供應商以及基於聊天和 Fill-in-the-middle (FIM) 補全模式。
Nebulock-Inc/agentic-threat-hunting-framework
一個 Python CLI 框架,使用 LOCK 模式將威脅狩獵調查以 markdown 儲存,使其可被搜尋,並可選地讓 LLM 代理生成研究、執行查詢並自動化部分狩獵流程。
EfficientMoE/MoE-Infinity
一種成本效益高的推理庫,透過將專家權重卸載至主機記憶體與 SSD,使在記憶體受限的 GPU 上執行大型混合專家模型成為可能。
benchflow-ai/benchflow
一個通用環境框架,可將 AI 代理在任務環境中執行並根據標準化合約進行評分,將基準測試視為凍結的環境。
boringcomputers/nehemiah
一個用於按需建立、隔離的 Linux 微虛擬機的平台,AI 代理可安全地使用它們來執行程式碼和瀏覽網頁。
sopaco/cortex-mem
基於 Rust 的 AI 代理長期記憶框架,採用三層分層架構與虛擬檔案系統,提供持久化、情境感知的互動。
biagiomaf/smart-comfyui-gallery
專為 ComfyUI 與 AI 生產庫設計的開源數位資產管理與畫廊工具,用於組織、搜尋與重混生成內容。
Snowflake-Labs/agent-world-model
一個用於大規模代理強化學習的合成環境生成管線,可創建數千個以 SQL 為基礎的工具使用環境。
thunder-id/thunderid
一個輕量、開源的 IAM 堆疊,支援後量子安全與去中心化身分,為人類、AI 代理與機器提供存取保護。
mit-han-lab/torchquantum
基於 PyTorch 的框架,用於在傳統硬體上模擬量子計算,支援參數化量子電路與混合式古典‑量子模型的訓練。
automagik-dev/genie
一個為 AI 編碼代理提供規劃與執行能力的層,透過嚴謹的設計與審查工作流程,將高階請求轉化為結構化計畫與並行化的 PR。
pixeltable/pixeltable
一個統一的多模態後端,將資料庫、編排與服務層整合至單一 Python 檔案,用於 AI 數據應用。