Gnosil/semantix

semantic agent kernel which make agent efficient and self-evolve

해결하는 문제

Semantix는 AI 코딩 에이전트의 두 가지 주요 문제를 해결합니다: 세션 간 컨텍스트 손실과 LLM 제공자 프리픽스 캐시의 높은 비용/비효율성입니다. 대부분의 에이전트는 세션이 끝나면 모든 것을 잊어버리며, 프롬프트의 시작 부분에 단일 문자가 변경되면 전체 캐시가 무효화되는 일반적인 제공자 캐시는 높은 청구액을 초래할 수 있습니다.

작동 방식

Semantix는 독립형 CLI 에이전트(semantix-agent)로 사용하거나, Claude Code 또는 LangChain 앱과 같은 기존 에이전트에 도구, 게이트웨이, 스킬을 통해 연결할 수 있는 '메모리 커널'을 제공합니다. 다음과 같은 메커니즘을 통해 작동합니다:

세션 간 메모리: 완료된 세션에서 재사용 가능한 '슬라이스'(작업 패턴, 프로젝트 지식, 도구 시퀀스)를 추출하여 로컬 라이브러리에 저장하고, 유사한 작업이 새로운 세션에서 나타날 때 다시 주입합니다.
프리픽스 정화: 요청별 소유자 마킹을 제거하고 도구 배열을 정규화하여 프롬프트가 바이트 수준에서 동일하게 유지되도록 하여 제공자 측 캐시의 히트율을 극대화합니다.
바이트 안정적 인젝션: 검색된 메모리 슬라이스는 점수 대신 ID 순서로 정렬되어 일관된 프롬프트 프리픽스를 유지합니다.
L3 결과 재사용: 검증된 결과는 새로운 모델 호출 없이 직접 반환됩니다.
적응형 스케줄링: 도구 사용 패턴을 학습하여 호출을 병렬화하고 읽기 전용 컨텍스트를 사전에 가져옵니다.

대상 사용자

API 비용을 줄이고 응답 속도를 향상시키며, 다양한 세션 간에 프로젝트 고유 지식을 유지하고자 하는 개발자들입니다.

주요 특징

높은 캐시 히트율: 일부 제공자(예: DeepSeek)에서 최대 99.8%의 히트율을 입증했습니다.
비용 절감: 합성 재생 비교에서 최대 79.8%의 비용 절감을 보고했습니다.
유연한 통합: 코드 변경 없이 게이트웨이, 도구 등록, 특정 에이전트 스킬로 통합 가능합니다.
제공자 인식: 벤더 기능 표와 각 벤더별 캐시 수명 추적 기능을 포함하여 브레이크포인트 배치를 최적화합니다.

Gnosil/semantix

해결하는 문제

작동 방식

대상 사용자

주요 특징

관련