plastic-labs/honcho

해결하는 문제

Honcho는 상태를 유지하는 AI 에이전트를 위한 메모리 인프라를 제공하여, 사람, 다른 에이전트, 그룹, 프로젝트, 아이디어가 시간이 지남에 따라 어떻게 진화하는지에 대해 지속적인 이해를 유지할 수 있도록 합니다. 단순한 청크 매칭(표준 RAG)을 넘어서, 상호작용에서 결론을 추출하는 '추론 중심' 접근 방식을 통해 엔티티의 진화하는 표현을 구축합니다.

작동 방식

Honcho는 저장, 추론, 질의의 지속적인 루프를 통해 작동합니다:

1. 저장: 대화, 이벤트, 문서, 또는 도구 추적은 세션 내 메시지로 저장됩니다.
2. 추론: 백그라운드에서 Honcho는 비동기적으로 이러한 메시지를 처리하여 '피어 표현'(시스템이 특정 엔티티에 대해 알고 있는 내용)을 업데이트합니다.
3. 질의: 사용자는 자연어로 이러한 표현을 질의하거나 특정 결과를 검색하거나, LLM용 프롬프트 준비된 컨텍스트를 추출할 수 있습니다.
4. 인젝트: 결과로 나온 컨텍스트나 답변은 LLM 호출이나 에이전트 프레임워크에 주입됩니다.

내부적으로는 인간과 에이전트를 세션에 참여하는 일등급 엔티티(피어)로 간주하는 피어 중심 모델을 사용합니다. 관찰은 관찰자-관찰 대상 피어 쌍을 키로 하는 벡터 임베딩된 문서 컬렉션에 저장됩니다.

대상 사용자

• 장기 기억과 높은 보존률이 필요한 AI 에이전트를 개발하는 개발자.
• 에이전트가 서로와 사용자를 이해해야 하는 다중 에이전트 시스템을 구축하는 팀.
• Claude Code, Cursor, OpenCode 등의 코드 에이전트 사용자 중, 다양한 도구 간에 공유되고 지속적인 메모리가 필요한 사용자.

주요 특징

• 추론 중심 메모리: 단순히 유사한 텍스트 청크를 검색하는 것이 아니라, 대화에서 실제 결론을 추출합니다.
• 피어 중심 모델: 사용자, 에이전트, 프로젝트의 진화를 별개의 엔티티로 추적합니다.
• 다중 피어 시점: 특정 피어가 다른 피어에 대해 알고 있는 내용을 모델링할 수 있습니다.
• 광범위한 통합: Claude Code, Cursor, DeepSeek Harness 등의 주요 코드 에이전트용 공식 플러그인과 MCP(Model Context Protocol) 지원을 제공합니다.
• 유연한 배포: 관리형 서비스, CLI를 통한 로컬 스택, 또는 자체 호스팅 가능한 FastAPI 서버로 제공됩니다.