hydro-project/infinity

해결하는 문제

Infinity는 에이전트 시스템의 높은 리소스 소비 문제를 해결합니다. 기존 에이전트 아키텍처는 느린 도구나 외부 응답을 기다리는 동안 프로세스를 활성 상태로 유지하는 경우가 많아 메모리와 컴퓨팅 자원을 낭비합니다. Infinity를 사용하면 에이전트를 지속적으로 활성 상태로 유지하는 오버헤드 없이 수많은 에이전트를 동시에 실행할 수 있습니다.

작동 방식

Infinity는 에이전트를 턴 사이의 경량 데이터 구조로 취급합니다. 에이전트가 도구나 외부 이벤트를 기다리는 동안에는 '하이버네이션(휴면)' 상태가 됩니다. 즉, 스택 공간을 차지하지 않고 열려 있는 연결도 유지하지 않습니다. 새로운 이벤트가 도착하면 에이전트가 깨어나 이를 처리합니다. 이를 통해 동일한 코드를 로컬에서 실행하거나 AWS Lambda와 같은 서버리스 플랫폼에서 실행할 수 있으며, 유휴 상태일 때 에이전트를 0으로 스케일 다운할 수 있습니다.

대상 사용자

Infinity는 복잡하고 동시성이 높은 에이전트 시스템을 구축하는 개발자를 위한 프레임워크로, 제한된 하드웨어나 비용 효율적인 서버리스 인프라에서 수천 개의 에이전트를 효율적으로 관리해야 하는 경우에 적합합니다.

주요 특징

• 극도로 가벼움: Raspberry Pi에서 75,000개의 에이전트를 실행할 수 있습니다.
• 하이버네이션 모델: 에이전트는 작업이나 도구 출력을 기다리는 동안 리소스를 전혀 소비하지 않습니다.
• Reactive Agent Protocol (RAP): 에이전트 프로세스가 비활성 상태일 때도 작동하는 네트워크 기반 도구 사용을 가능하게 합니다.
• 서버리스 준비 완료: AWS Lambda와 같은 플랫폼에서 원활하게 실행되도록 설계되었으며, 0으로 스케일 다운하는 기능을 지원합니다.
• 내장 코딩 에이전트: 테스트 실행 및 병렬 편집 관리와 같은 동시 개발 작업을 위한 특수 에이전트가 포함되어 있습니다.