nanobot: 멀티 채널 채팅 통합 및 지속성 메모리를 갖춘 초경량 셀프 호스팅 AI 에이전트 런타임

nanobot: 멀티 채널 채팅 통합 및 지속성 메모리를 갖춘 초경량 셀프 호스팅 AI 에이전트 런타임

해결하는 문제

nanobot은 셀프 호스팅 방식의 초경량 개인용 AI 에이전트 런타임입니다. 이는 사용자가 완전히 소유하고 커스터마이징할 수 있으면서도, 지속적인 워크플로우를 유지하고, 장기적인 문맥을 기억하며, 여러 채팅 플랫폼을 통해 상호작용할 수 있는 개인용 AI 에이전트를 실행하기 위해 복잡하고 거대한 단일 플랫폼이 필요하다는 문제를 해결합니다.

작동 방식

다양한 채팅 채널로부터 메시지를 수신하고, LLM이 특정 도구를 트리거할 시점을 결정하는 작은 에이전트 루프를 중심으로 작동합니다. 무거운 오케스트레이션 레이어 대신, 메모리와 기술(skills)을 문맥(context)으로 가져옵니다. 이 시스템은 폴백(fallback) 기능이 있는 모델 라우팅을 지원하며, 로컬 머신이나 서버에서 장기 실행 게이트웨이로 배포될 수 있습니다.

대상 사용자

기존 채팅 앱(Telegram, Discord, Slack 등)에 통합하거나 WebUI를 통해 사용할 수 있는 프라이빗한 셀프 호스팅 AI 에이전트를 원하는 사용자, 그리고 개인용 자동화를 구축하기 위해 읽기 쉽고 확장 가능한 코드베이스를 원하는 개발자를 위해 설계되었습니다.

주요 특징

  • 멀티 채널 도달 범위: Telegram, Discord, Slack, WeChat, Email, Mattermost, Feishu에 연결합니다.
  • 모델 유연성: OpenAI-compatible API, 로컬 LLM(Ollama 또는 vLLM을 통해), 그리고 이미지 생성을 지원합니다.
  • 도구 통합: shell access, web search, web fetch, MCP (Model Context Protocol), 그리고 cron jobs를 위한 내장 도구를 포함합니다.
  • 장기 메모리: "Dream"을 사용하여 세션 기록과 장기 메모리를 유지합니다.
  • 개발자 친화적: 외부 통합을 위한 Python SDK와 OpenAI-compatible API를 제공합니다.

Sources