Ebony-Vinyl/dsh-our-free-model

해결하는 문제

이 프로젝트는 DeepSeek Harness (dsh) 환경을 위한 무료 무제한 액세스 플러그인을 제공하여, 사용자가 계정 등록, 가입, 또는 API 키 제공 없이 최첨단 AI 모델(DeepSeek V4.1 Flash 및 Kimi K3 등)을 사용할 수 있게 합니다.

작동 방식

이 플러그인은 OpenCode Zen 게이트웨이에 연결하여 사용 가능한 모델에 대한 요청을 가져오고 라우팅합니다. 사용자의 네트워크 출구를 동적으로 프로브하여 모델 가용성을 결정하고 이를 그룹(사용 가능 또는 지역 제한)으로 구성합니다. 다양한 업스트림 프로토콜을 처리하기 위해 사용자 정의 LlmAdapter를 구현하며, 다른 로컬 도구가 이러한 무료 모델을 활용할 수 있도록 로컬 OpenAI 호환 전달 포트를 포함합니다.

대상 사용자

DeepSeek Harness (dsh) 사용자(웹 버전, TUI, 데스크톱 AIO 버전 사용자 포함)로, 구성 오버헤드 없이 고성능 LLM에 즉시 액세스하려는 사람들.

주요 기능

• 제로 구성: 계정, 키, 또는 할당량 없이 즉시 사용 가능.
• OpenAI 호환성: 로컬 전달 포트를 포함하여 다른 애플리케이션이 표준 base URL 및 API 키를 통해 이러한 모델을 호출할 수 있습니다.
• 동적 모델 검색: 모델 목록을 자동으로 새로 고치고 사용자의 현재 네트워크 위치에 따라 사용할 수 없는 모델을 필터링합니다.
• 지능형 스트림 처리: Content-Type 헤더뿐만 아니라 본문 형태를 기반으로 스트리밍 응답을 감지하여 높은 부하에서 실패를 방지합니다.
• 추론 예산 제어: 출력 토큰 상한을 강제하여 "사고 강도"(Light/Balanced/Deep)를 구현하여 추론 깊이의 실제 차이를 보장합니다.
• 자동 복구: 긴 사고 세션이 최종 답변을 생성하지 않고 잘린 경우 자동으로 응답을 다시 요청할 수 있는 제한된 복구 메커니즘을 갖추고 있습니다.
• 로컬 분석: 토큰 히트맵 및 지연 시간 추적이 포함된 사용량 대시보드를 제공하며, 모든 데이터는 머신에 로컬로 저장됩니다.