InternLM/lagent

해결하는 문제

Lagent는 다중 에이전트 애플리케이션을 구축하기 위한 프레임워크입니다. PyTorch의 설계 철학을 참고하여 에이전트를 생성하고, 에이전트 간의 통신 및 메시지 전달 방식을 정의하는 과정을 단순화하여 개발자들이 직관적으로 워크플로우를 사용할 수 있도록 합니다.

작동 방식

Lagent는 에이전트와 도구를 네트워크 내의 레이어로 간주하며, 통신은 AgentMessage 객체를 통해 처리됩니다. 에이전트 상태는 입력 및 출력 메시지를 추적하는 메모리 시스템을 통해 관리됩니다. 프레임워크는 파서를 통한 유연한 응답 포맷팅과 ActionExecutor 및 훅을 통한 일관된 도구 호출 인터페이스를 제공합니다. 빠른 프로토타이핑과 고성능 배포를 모두 지원하기 위해, 주요 구성 요소(LM, 액션, 실행기)에 대해 동기 및 비동기 두 가지 인터페이스를 제공합니다.

대상 사용자

자기 수정형 글쓰기, 코드 인터프리터를 사용하는 수학 문제 해결기, 데이터 수집 및 시각화를 위한 다중 에이전트 시스템과 같은 복잡한 AI 에이전트 워크플로를 구축하는 개발자들입니다.

주요 특징

• PyTorch에 영감을 받은 설계: 에이전트 워크플로와 메시지 전달을 레이어에 비유하여 정의합니다.
• 이중 인터페이스: 디버깅과 대규모 추론 모두를 위한 동기 및 비동기 버전의 컴포넌트를 제공합니다.
• 유연한 메모리: 세션 기반 메모리 관리를 내장하여 대화 및 도구 환경을 분리합니다.
• 사용자 정의 어그리게이터: 메시지를 어떻게 집계하고 LLM 프롬프트로 변환할지 사용자 정의 로직을 구현할 수 있습니다 (예: Few-shot 프롬프팅).
• 통합 도구 지원: 코드 인터프리터(IPython) 및 웹 브라우저의 내장 지원이 포함되어 있습니다.