NVlabs/SoL-Pi

해결하는 문제

SoL-Pi는 중복 작업의 누적, 과도한 관찰 결과, 비대해진 컨텍스트 윈도우로 인해 발생하는 장기 실행 코딩 에이전트의 비효율성 문제를 해결합니다. 작업을 완료하는 데 필요한 증거 또는 검증 단계를 희생하지 않으면서도 토큰 트래픽, 추론 비용 및 에이전트 턴 수를 줄여줍니다.

작동 방식

Pi 코딩 에이전트의 독립형 확장 기능으로 작동하며, 다음과 같은 네 가지 효율성 메커니즘을 구현합니다:

• Action Fusion: 파일 편집 또는 쓰기 작업과 후속 검증 명령을 단일 도구 호출로 결합합니다.
• ObservationPack: 반복되는 대규모 텍스트 결과를 안정적인 핸들로 대체하여 정확한 페이지 단위 호출을 가능하게 합니다.
• Evidence-Preserving Reducer: 긴 진단 로그를 압축된 영수증 형태로 변환하여, 보존된 모든 인용문이 원본 소스와 일치하도록 보장합니다.
• Online Context Compact: 완료된 계획 단계를 컨텍스트 압축 후보로 식별하여 윈도우 압박을 줄이고, 성공적인 압축 후 새로운 턴을 시작합니다.

대상 사용자

Pi 코딩 에이전트를 사용하면서 에이전트의 컨텍스트 및 도구 출력 처리 방식을 최적화하여 LLM 운영 비용을 절감하고 성능을 향상시키고자 하는 개발자.

주요 특징

• 비침습적: 공개 API를 통해 수정되지 않은 Pi 릴리스 위에 설치되며, Pi 소스 코드에 대한 패치가 필요하지 않습니다.
• 옵트인 방식: 모든 효율성 메커니즘은 기본적으로 비활성화되어 있으며 설정에서 명시적으로 활성화해야 합니다.
• 증거 중심: 원본 관찰 결과를 계속 사용할 수 있도록 보장하며 축소 과정에서 데이터 손실을 방지합니다.
• 자동 연구 기반: 에이전트 하네스를 최적화하기 위해 대규모 자동 연구 루프를 통해 발견된 메커니즘을 기반으로 합니다.