eunomia-bpf/agentsight

lightweight system-level observability for AI Agents

해결하는 문제

AgentSight는 AI 에이전트를 위한 시스템 수준의 관측성을 제공하여 LangSmith나 Langfuse와 같은 애플리케이션 수준 도구가 실패하는 영역을 메웁니다. 개발자는 에이전트가 실제로 머신에서 무엇을 하는지(예: 프로세스 생성, 파일 수정, 네트워크 호출 등) SDK, 프록시, 또는 벤더 통합 없이 모니터링할 수 있습니다. 이는 내부 로그가 제한적이거나 누락된 폐쇄 소스 CLI 에이전트에 특히 유용합니다.

작동 방식

AgentSight는 eBPF(확장 베리클리 패킷 필터)와 TLS 트래픽 추적을 사용하여 커널 수준에서 에이전트 행동을 관측합니다. SSL/TLS 호출 경계에서 평문 LLM 페이로드를 캡처하고, 프로세스 실행 및 파일 접근과 같은 시스템 이벤트와 연관시킵니다. 시스템 경계에서 작동하기 때문에 코드 수정 없이 바이너리와 CLI 에이전트를 추적할 수 있습니다.

대상 사용자

에이전트의 실패 디버깅, 토큰 사용량 분석, 데이터 이동 감사, 시스템 내 안전한 동작 보장 등을 위해 AI 에이전트(Claude Code, Gemini CLI, 또는 사용자 정의 Python 기반 에이전트 등)를 모니터링해야 하는 개발자 및 보안 감사 담당자에게 적합합니다.

주요 특징

  • SDK 필요 없음: 코드 변경이나 프록시 없이 기존 바이너리와 폐쇄 소스 CLI와 함께 작동.
  • 시스템 전체 모니터링: LLM 프롬프트와 응답과 함께 프로세스 트리, 파일 작업, 네트워크 활동을 추적.
  • 풍부한 시각화: top과 유사한 실시간 뷰, 파일 변경의 애니메이션 재생, 비용 및 성능 분석을 위한 의미적 플레임그래프 포함.
  • OpenTelemetry 지원: OTLP/HTTP를 통해 캡처된 LLM 호출을 GenAI 스팬으로 내보내 다른 텔레메트리 백엔드와 통합 가능.
  • 낮은 오버헤드: 일반적인 에이전트 워크로드에서 CPU 오버헤드는 3% 미만입니다.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트