yureii1996/cek-probe-model
Untuk cek model apakah maskingan atau bukan
解決的問題
提供一種方法來驗證AI模型端點是否真正提供其聲稱的模型。它幫助使用者識別「架構不匹配」,即模型的標籤(例如DeepSeek)與實際回應的模型(例如GPT)不同。
運作方式
該工具使用Python腳本向OpenAI相容的API端點傳送簡單的身分和邏輯探測(推論請求)。它將回應中模型自我報告的身分與預期的模型系列進行比較,以偵測差異。
適用對象
希望確保所使用的模型端點的真實性和正確性的AI模型提供者的開發者和使用者。
亮點
- 簡單的基於Python的探測腳本。
- 支援多種測試策略,包括快速探測以及針對特定提供者(如InferHub和CFRouter)的帶有內建延遲/重試的腳本。
- 基於身分探測回應自動偵測架構不匹配。
相關
- 專案
- 專案
- 專案
OctaFuse/octafuse-gatewayOctafuse Gateway is an open‑source, self‑hosted AI gateway that unifies access to multiple model providers (OpenAI, Anthropic, Gemini, DashScope, etc.) and agent tools behind a single OpenAI‑compatible API. It offers one‑click provider/model import, protocol translation, four routing strategies, detailed user/quota/billing management, an admin UI, and can be deployed via Docker or Cloudflare Workers.
- 專案