Azure-Samples/AI-Gateway

基於 Azure API Management 建構的企業級 AI 網關框架,為管理 AI 模型、工具和代理提供集中式安全、成本控制和可觀測性。

Nya-Foundation/NyaProxy

一個輕量級 API 網關,可集中管理憑證注入、速率限制與負載平衡,適用於使用 API 金鑰或 Bearer Token 的服務。

Fadi002/de4py

結合本地 LLM 與 AST 清理、模式比對的高階 Python 去混淆工具,幫助惡意軟體分析師與逆向工程師恢復可讀程式碼。

kaito-project/kaito

一個自動化 LLM 推理、微調與 RAG 引擎部署、擴展與管理的 Kubernetes Operator 套件。

kubeflow/community-distribution

一種用於在各種 Kubernetes 叢集上安裝 Kubeflow 平台的清單分發,提供完整的端對端機器學習環境。

limbo018/DREAMPlace

一個利用GPU加速的VLSI佈局工具包,將晶片元件佈局視為深度學習最佳化問題,相比傳統CPU工具實現巨大速度提升。

langwatch/scenario

一個使用模擬、用戶模擬器和裁判代理來評估 AI 代理在多輪對話中行為和穩健性的代理測試框架。

agent-sh/agentsys

一個模組化執行時與編排系統,讓 AI 代理透過結構化流程、品質門檻與專用代理角色,自動化軟體開發生命週期。

mistralai/mistral-common

一套為 Mistral AI 模型提供的工具集,提供開源分詞器(tokenizers)以及針對文本、圖像和音訊的 Pydantic 驗證功能。

xlang-ai/Spider2

一個用於在多種SQL方言與複雜資料環境中,評估LLM在真實企業級文字轉SQL工作流程中表現的基準測試。

guidance-ai/llguidance

一個高性能的約束解碼庫,透過強制執行 JSON 模式、正規表示式與上下文無關文法,確保 LLM 輸出的結構化資料。

jonigl/mcp-client-for-ollama

一個終端機型用戶端,可將本機 Ollama LLM 連線至 Model Context Protocol (MCP) 伺服器,讓本機模型能執行工具並存取外部資源。

SHAdd0WTAka/Zen-Ai-Pentest

一個自主的、AI 驅動的滲透測試框架,可協調 72+ 個安全工具,實現偵察、利用和報告的自動化。

erpipe-org/mcp-odoo

一個將任何 Odoo 16+ 資料庫轉換為 AI 就緒介面的 Model Context Protocol 伺服器,使 LLM 能在無需企業 AI 模組的情況下安全查詢與管理 Odoo 資料。

stanford-star/relbench

RelBench 是一個用於關係型資料庫上預測機器學習的開源基準,提供統一框架,用於載入和評估多表資料上的模型。

aws/mcp-proxy-for-aws

一個讓 AI 應用與代理能連接到 AWS 主機 MCP 伺服器的橋接器,可自動處理 AWS IAM(SigV4)驗證。

sgl-project/sglang-jax

針對 Google TPU 優化的高性能 JAX 推理引擎,為 LLM 與多模態模型提供高吞吐量與低延遲。

astroautomata/SymTorch

一個用於深度神經網絡符號蒸餾的框架,利用 PySR 將模型組件近似為符號方程式,以提升可解釋性。

sanjay3290/ai-skills

為 AI 程式設計助手提供的便攜式、標準化技能集合,使其能夠與資料庫、生產力工具和雲端基礎設施進行互動。

AltimateAI/altimate-code

一個開源的資料工程框架,為LLM提供決定性工具,實現跨主要雲端平台的SQL分析、欄位級血緣追蹤與資料倉儲連接。

mlco2/ecologits

一個用於追蹤透過 API 使用的生成式 AI 模型之能源消耗與溫室氣體排放的工具。

facebookresearch/fairseq2

一個用於訓練自訂內容生成模型的序列建模工具包,具備模組化架構與對超過 70B 參數模型的可擴展訓練能力。

eastriverlee/LLM.swift

一個在 Apple 平台上執行本地 LLM 的 Swift 函式庫,提供結構化輸出、工具使用與思考鏈推理的高階抽象。

opral/lix

一個將檔案、SQL 資料庫與版本控制整合為單一 ACID 相容系統的嵌入式倉儲系統,支援即時協作與資料歷史記錄。

ROCm/AMDMIGraphX

AMD MIGraphX 是一個在 AMD 硬體上加速機器學習模型推理的圖推理引擎。

openvinotoolkit/open_model_zoo

一組優化的預訓練深度學習模型與工具,旨在加速高性能推理應用程式的開發與部署。

PINTO0309/onnx2tf

一個將 ONNX 模型轉換為 LiteRT、TFLite、TensorFlow 和原生 PyTorch 程式碼的工具,以促進跨框架部署。

skforecast/skforecast

一個整合 scikit-learn 相容模型、統計方法與基礎模型的統一 API 時間序列預測 Python 庫。

bionic-gpt/bionic-gpt

一個開源、自託管的代理框架,供內部 AI 團隊透過沙箱化的程式碼執行與模型獨立性來建構主權 AI 工作流程。

vearch/vearch

Vearch 是一個雲原生分散式向量資料庫,能為 AI 應用提供嵌入向量的高效相似度搜尋。

Windecay/ComfyUI-ReservedVRAM

一個ComfyUI節點,即時動態調整預留的VRAM,以防止OOM錯誤並最佳化GPU記憶體使用。

goehou/tabbit-toy

一個適用於 Tabbit 瀏覽器的 OpenAI 相容 API 代理,允許使用者在第三方客戶端中存取 Tabbit 整合的 AI 模型。

trailofbits/claude-code-devcontainer

一個容器化的開發環境,透過啟用 `bypassPermissions` 使 Claude Code 在隔離環境中執行,將 AI 的檔案系統存取限制在專案目錄與暫時容器內,為安全審計與不可信程式碼探索提供安全沙箱。

aghyad97/browserytools

一個注重隱私的 152 個基於瀏覽器的實用工具集合,透過 Transformers.js 提供本地裝置 AI 進行轉錄、翻譯和影像處理。

sauravrao637/oproxy

一個用於檢查、重放和修改來自瀏覽器、應用和 API 的網路流量的本地代理伺服器,具備 AI 驅動的控制平面。

ROCm/rocm-examples

ROCm 平台的範例與教學集合,提供 HIP 執行時功能、GPU 加速應用與 AI 模型執行的程式碼。

milanglacier/minuet-ai.el

一個由 LLM 驅動的 Emacs 程式碼補全套件,支援多個供應商以及基於聊天和 Fill-in-the-middle (FIM) 補全模式。

Nebulock-Inc/agentic-threat-hunting-framework

一個 Python CLI 框架,使用 LOCK 模式將威脅狩獵調查以 markdown 儲存,使其可被搜尋,並可選地讓 LLM 代理生成研究、執行查詢並自動化部分狩獵流程。

EfficientMoE/MoE-Infinity

一種成本效益高的推理庫,透過將專家權重卸載至主機記憶體與 SSD,使在記憶體受限的 GPU 上執行大型混合專家模型成為可能。

benchflow-ai/benchflow

一個通用環境框架,可將 AI 代理在任務環境中執行並根據標準化合約進行評分,將基準測試視為凍結的環境。

boringcomputers/nehemiah

一個用於按需建立、隔離的 Linux 微虛擬機的平台,AI 代理可安全地使用它們來執行程式碼和瀏覽網頁。

sopaco/cortex-mem

基於 Rust 的 AI 代理長期記憶框架,採用三層分層架構與虛擬檔案系統,提供持久化、情境感知的互動。

biagiomaf/smart-comfyui-gallery

專為 ComfyUI 與 AI 生產庫設計的開源數位資產管理與畫廊工具,用於組織、搜尋與重混生成內容。

Snowflake-Labs/agent-world-model

一個用於大規模代理強化學習的合成環境生成管線,可創建數千個以 SQL 為基礎的工具使用環境。

thunder-id/thunderid

一個輕量、開源的 IAM 堆疊,支援後量子安全與去中心化身分,為人類、AI 代理與機器提供存取保護。

mit-han-lab/torchquantum

基於 PyTorch 的框架,用於在傳統硬體上模擬量子計算,支援參數化量子電路與混合式古典‑量子模型的訓練。

automagik-dev/genie

一個為 AI 編碼代理提供規劃與執行能力的層,透過嚴謹的設計與審查工作流程,將高階請求轉化為結構化計畫與並行化的 PR。

pixeltable/pixeltable

一個統一的多模態後端,將資料庫、編排與服務層整合至單一 Python 檔案,用於 AI 數據應用。