yureii1996/cek-probe-model

Untuk cek model apakah maskingan atau bukan

解決的問題

提供一種方法來驗證AI模型端點是否真正提供其聲稱的模型。它幫助使用者識別「架構不匹配」,即模型的標籤(例如DeepSeek)與實際回應的模型(例如GPT)不同。

運作方式

該工具使用Python腳本向OpenAI相容的API端點傳送簡單的身分和邏輯探測(推論請求)。它將回應中模型自我報告的身分與預期的模型系列進行比較,以偵測差異。

適用對象

希望確保所使用的模型端點的真實性和正確性的AI模型提供者的開發者和使用者。

亮點

  • 簡單的基於Python的探測腳本。
  • 支援多種測試策略,包括快速探測以及針對特定提供者(如InferHub和CFRouter)的帶有內建延遲/重試的腳本。
  • 基於身分探測回應自動偵測架構不匹配。

相關

  • 專案
  • 專案
  • 專案
  • 專案