yureii1996/cek-probe-model

Untuk cek model apakah maskingan atau bukan

解决的问题

此项目提供了一组 Python 脚本,用于验证托管在 OpenAI 兼容 API 端点上的 AI 模型的身份与逻辑。它能帮助用户确保所访问的模型确实为提供者所宣称的模型,并检测模型标签与其实际行为之间潜在的不匹配情况。

运作方式

此工具会从端点获取模型列表并执行简单的“探测”请求。它会向模型发送推理请求并分析响应,以查看身份与逻辑是否符合预期的模型系列。例如,如果标签显示为“DeepSeek”但模型自称为“GPT”,它就能标记该模型为“可疑”。

适用对象

希望验证所使用模型端点真实性的开发者与 API 用户,以确保他们收到的响应并非来自其他更廉价或未预期的模型。

特色亮点

  • 身份验证: 检测模型自报身份与其标签不符的架构不匹配问题。
  • OpenAI API 兼容性: 适用于任何遵循 OpenAI API 标准的端点。
  • 多种测试模式: 包含用于快速探测的脚本,以及针对 InferHub 和 CFRouter 等特定提供者,内置重试与延迟机制的脚本。
  • 基于环境变量的安全性: 使用环境变量来安全地处理 API 密钥。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目