plastic-labs/honcho

Honcho – 상태 저장 AI 에이전트를 위한 메모리 인프라

개요

Honcho는 AI 에이전트와 인간( 피어라고 함)의 메시지, 이벤트, 문서를 저장하고 추론하는 오픈소스 서비스(FastAPI 서버)입니다. 피어별 표현을 구축하여 자연어 답변, 요약, 벡터 검색 결과로 쿼리할 수 있습니다. 이 서비스는 관리형 클라우드(api.honcho.dev)로 사용하거나 Docker 또는 로컬 CLI를 통해 자체 호스팅할 수 있습니다.

주요 개념

개념	역할
워크스페이스	제품 또는 팀의 데이터를 격리하는 최상위 컨테이너.
피어	메시지를 보내고 받을 수 있는 모든 참가자 – 인간 사용자 또는 AI 에이전트.
세션	하나 이상의 피어가 참여하는 대화(또는 이벤트 스트림).
스코프	검색 또는 표현의 회상을 제한하는 세션의 명명된 그룹.
메시지	데이터의 원자 단위(채팅 턴, 도구 호출, 문서 청크).

작동 방식 – Honcho 루프

저장 – SDK 또는 HTTP API를 통해 피어, 세션, 메시지를 추가합니다.
추론 – Honcho는 백그라운드에서 대기 중인 항목을 처리하여 결론을 추출하고 각 피어의 표현을 업데이트합니다.
쿼리 – 컨텍스트, 검색 결과, 피어 표현 또는 직접적인 자연어 답변을 검색합니다.
주입 – 반환된 데이터를 모든 LLM 호출 또는 에이전트 프레임워크에 공급합니다.

주요 기능

추론 우선 메모리 – 단순한 벡터 저장소가 아닙니다. Honcho는 백그라운드 추론을 실행하여 피어에 대한 결론을 생성합니다.
피어 중심 모델 – 각 피어가 다른 피어에 대해 무엇을 알고 있는지 추적합니다(관찰자/피관찰자 쌍).
하이브리드 검색 – BM25 키워드 검색과 벡터 유사성을 결합합니다.
저지연 정적 표현 – 피어 지식의 스냅샷으로 빠르게 가져올 수 있습니다.
프롬프트 준비 컨텍스트 – OpenAI, Anthropic 등에 맞게 형식화된 요약 또는 전체 대화 기록.
멀티 에이전트 지원 – 세션에는 인간과 AI 에이전트의 모든 조합이 포함될 수 있습니다.

시작하기

관리형 – https://app.honcho.dev에서 가입하고 API 키를 얻은 후 Python(honcho-ai) 또는 TypeScript(@honcho-ai/sdk) SDK를 사용합니다.
로컬 – CLI(uv tool install honcho-cli)를 설치하고 honcho start --setup을 실행한 후 SDK를 http://localhost:8000으로 지정합니다.
소스에서 자체 호스팅 – 저장소를 클론하고 Docker compose 예제를 복사하고 LLM 공급자 키를 제공한 후 docker compose up을 실행합니다.

예제(Python)

from honcho import Honcho
import os

honcho = Honcho(
    workspace_id="my-app-testing",
    api_key=os.getenv("HONCHO_API_KEY"),
)

alice = honcho.peer("alice")
tutor = honcho.peer("tutor")
session = honcho.session("session-1")
session.add_messages([
    alice.message("Hey, can you help me with my math homework?"),
    tutor.message("Sure, send the first problem!"),
])

# Background reasoning runs automatically.
answer = alice.chat("What learning styles does the user respond to best?")
context = session.context(summary=True, tokens=10_000)

# Use the context with any LLM, e.g. OpenAI:
from openai import OpenAI
client = OpenAI()
client.chat.completions.create(
    model="gpt-4o-mini",
    messages=context.to_openai(assistant=tutor),
)

통합 – 많은 코딩 에이전트(Claude Code, Codex, Cursor, DeepSeek Harness, OpenCode, Kilo Code, OpenClaw, Hermes) 및 MCP 호환 클라이언트를 위한 퍼스트파티 플러그인이 있습니다. 모든 플러그인은 공유 ~/.honcho/config.json을 읽으므로 하나의 API 키로 여러 도구를 지원할 수 있습니다.

CLI – honcho-cli를 사용하면 배포 검사(honcho workspace inspect, honcho doctor), 로컬 스택 실행, 구성 관리를 할 수 있습니다.

벤치마크 – Honcho는 LongMemEval 및 LoCoMo와 같은 긴 대화 벤치마크에서 결과를 보고하며, 연구 블로그 게시물과 공개 평가 페이지에서 파레토 최적 성능을 설명합니다.

라이선스 – AGPL-3.0(오픈소스, 자체 호스팅 가능).

결론 – Honcho는 시간이 지남에 따라 상호 작용을 유지하고 추론해야 하는 에이전트를 위해 특별히 설계된 메모리 계층을 제공합니다. 저장, 백그라운드 추론, 표현 검색을 추상화하여 개발자가 세션 간에 사용자와 다른 에이전트를 기억하는 에이전트, 봇 또는 제품 구축에 집중할 수 있게 합니다.

plastic-labs/honcho

Honcho – 상태 저장 AI 에이전트를 위한 메모리 인프라

관련