yureii1996/cek-probe-model
Untuk cek model apakah maskingan atau bukan
解决的问题
此项目提供了一组 Python 脚本,用于验证托管在 OpenAI 兼容 API 端点上的 AI 模型的身份与逻辑。它能帮助用户确保所访问的模型确实为提供者所宣称的模型,并检测模型标签与其实际行为之间潜在的不匹配情况。
运作方式
此工具会从端点获取模型列表并执行简单的“探测”请求。它会向模型发送推理请求并分析响应,以查看身份与逻辑是否符合预期的模型系列。例如,如果标签显示为“DeepSeek”但模型自称为“GPT”,它就能标记该模型为“可疑”。
适用对象
希望验证所使用模型端点真实性的开发者与 API 用户,以确保他们收到的响应并非来自其他更廉价或未预期的模型。
特色亮点
- 身份验证: 检测模型自报身份与其标签不符的架构不匹配问题。
- OpenAI API 兼容性: 适用于任何遵循 OpenAI API 标准的端点。
- 多种测试模式: 包含用于快速探测的脚本,以及针对 InferHub 和 CFRouter 等特定提供者,内置重试与延迟机制的脚本。
- 基于环境变量的安全性: 使用环境变量来安全地处理 API 密钥。
相关
- 项目
- 项目
- 项目
- 项目
- 项目