kerpopule/hermes-jev-skills

해결하는 문제

AI 에이전트는 복잡한 글쓰기 생성이 필요하지 않은 간단한 의사결정 작업(예: 한 번의 턴에 적절한 모델 선택, 검색 결과 필터링, 이메일 정렬 등)에 고가의 최신 모델 토큰을 낭비하는 경우가 많습니다. 이 프로젝트는 이러한 '작은 결정'을 타입된 질문(예/아니오, 점수 매기기, 목록에서 선택)에 대해 보정된 신뢰도로 응답하는 전용 저비용 결정 모델인 Jev로 오프로드할 수 있는 스킬 세트와 플러그인을 제공하여 지연 시간과 비용을 줄입니다.

작동 방식

이 시스템은 플러그인(특히 Hermes용) 또는 독립형 스킬 파일을 통해 Jev를 에이전트 워크플로우에 통합합니다. 핵심 지점에서 에이전트 프로세스를 가로채어 빠른 결정을 수행합니다:

• 모델 라우팅: 현재 턴을 처리할 수 있는 가장 비용 효율적인 모델을 동적으로 선택.
• 필터링 및 선택: 메인 LLM이 읽기 전에 검색된 메모리 문장이나 검색 결과 중 실제로 관련 있는 항목을 식별.
• 작업 우선순위 설정: 도착한 메시지를 긴급도와 유형에 따라 분류.
• 액션 선택: 미리 정의된 안전한 액션 목록에서 다음 GUI 또는 브라우저 액션을 선택.

안전성과 프라이버시를 보장하기 위해 시스템은 Jev API로 전송하기 전에 민감한 데이터를 마스킹하는 레드랙션 레이어를 사용하며, 결정 모델이 사용 불가능할 경우 에이전트가 기본 동작으로 되돌아가는 '페일오픈' 설계를 구현합니다.

대상 사용자

Hermes 에이전트 프레임워크 등을 사용하는 개발자 중, 고수준 추론과 일상적인 의사결정을 분리함으로써 운영 비용과 응답 시간을 최적화하고자 하는 사람.

주요 특징

• 비용 및 속도: 결정은 일반적으로 약 0.4초 소요되며, 비용은 센트의 일부에 불과.
• 섀도우 모드: 모델이나 액션을 실제로 전환하지 않고 Jev의 결정을 로깅하여 실사용 전 성능을 검증 가능.
• 프라이버시 우선: 이메일, 전화번호, 토큰 등에 대해 내장된 레드랙션을 제공하며, 매우 민감한 데이터에는 '프라이빗 프로필' 모드를 제공.
• 광범위한 활용성: Claude Code나 Codex 등 다른 환경에서도 사용 가능한 에이전트 독립형 스킬 9개를 기본 제공.
• 안전 장치: 페일오픈 설계로 Jev 장애 시 에이전트의 턴이 차단되지 않음.