luoguoxiong/aipack

해결하는 문제

aipack은 AI 에이전트를 쉽게 만들 수 있도록 설계된 가벼운 개인용 AI 어시스턴트 프레임워크입니다. 장기적인 대화에서 토큰 폭발을 방지하기 위해 세션 지속성, 장기 기억, 컨텍스트 창 관리를 위한 포괄적인 도구 세트를 제공합니다.

작동 방식

이 프로젝트는 Runtime, Extension, Transformer로 구성된 3단계 아키텍처를 사용합니다.

• Runtime: 요청에서 태스크 그래프, 컨텍스트 변환, 모델 호출, 도구 실행까지의 흐름을 관리하는 핵심 스케줄러입니다.
• Extension: Tapable 훅을 사용한 플러그인 시스템으로, 개발자가 에이전트의 라이프사이클에 로직을 삽입할 수 있습니다.
• Transformer: 도구 출력 자르기 및 스냅샷 생성과 같은 작업을 처리하는 컨텍스트 변환 체인입니다.

OpenAI, DeepSeek, Anthropic 등 13개 이상의 모델 제공업체를 지원하며, 동기 및 스트리밍 응답 모두를 제공합니다.

대상 사용자

기억 기능, 관측성, 다중 플랫폼 배포(CLI, Tauri를 통한 데스크톱, 웹)를 내장한 사용자 정의 AI 에이전트를 구축하고자 하는 개발자.

주요 특징

• 하이브리드 메모리 시스템: BM25 키워드 검색과 벡터 검색을 결합하여 세션 간 장기 기억을 구현합니다.
• 5단계 컨텍스트 압축: 도구 출력 자르기에서 세션 이관에 이르기까지 단계적인 전략으로 토큰 사용량을 관리합니다.
• 풀스택 관측성: 토큰 사용량, 지연 시간, 도구 성공률을 추적할 수 있는 전용 SDK와 서버, 대시보드를 포함합니다.
• 다중 모델 지원: 다양한 LLM 제공업체와 즉시 통합됩니다.
• 즉시 사용 가능한 CLI: 내장된 파일 및 bash 도구를 갖춘 터미널 기반 AI 프로그래밍 어시스턴트입니다.