yureii1996/cek-probe-model
Untuk cek model apakah maskingan atau bukan
해결하는 문제
AI 모델 엔드포인트가 실제로 제공한다고 주장하는 모델을 제공하는지 검증하는 방법을 제공합니다. 모델의 라벨(예: DeepSeek)이 실제 응답하는 모델(예: GPT)과 다른 "아키텍처 불일치"를 사용자가 식별하는 데 도움을 줍니다.
작동 방식
이 도구는 Python 스크립트를 사용하여 OpenAI 호환 API 엔드포인트에 간단한 정체성 및 논리 프로브(추론 요청)를 보냅니다. 응답에서 모델이 스스로 보고한 정체성을 기대되는 모델 패밀리와 비교하여 불일치를 감지합니다.
대상
사용 중인 모델 엔드포인트의 진위성과 정확성을 보장하려는 AI 모델 제공업체의 개발자 및 사용자.
주요 기능
- 간단한 Python 기반 프로브 스크립트.
- 빠른 프로브 및 InferHub, CFRouter와 같은 특정 제공업체를 위한 내장 지연/재시도가 있는 스크립트를 포함한 여러 테스트 전략 지원.
- 정체성 프로브 응답에 기반한 아키텍처 불일치 자동 감지.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트