NVlabs/SoL-Pi
SoL-Pi: Scaling Auto-Research Loops for Efficient Agent Harnesses
解決的問題
SoL-Pi 解決了長時間運行的程式代理因累積重複工作、不必要地重播大型工具結果,以及浪費 token 來讀取長日誌或維護臃腫上下文所導致的低效率問題。它旨在不犧牲工作品質或完成任務所需的證據的前提下,減少 token 通訊量、推論成本和代理的回合數。
工作原理
作為 Pi 程式代理的獨立擴展,實作四種可選的效率機制:
- 動作融合:將寫入或編輯操作與其後續的驗證命令合併為單一工具呼叫,以減少回合數。
- ObservationPack:將重複的大段文字結果轉換為具分頁回溯能力的穩定句柄,防止相同的大數據被多次重播。
- 證據保留型壓縮器:將長診斷日誌壓縮為緊湊的收據,確保每個保留的引用都與原始來源完全匹配。
- 線上上下文壓縮:基於經濟性與視窗壓力檢查,識別已完成的計畫步驟作為上下文壓縮的候選,成功壓縮後啟動新回合。
適用對象
專為使用 Pi 程式代理並希望在複雜、長期的程式任務中降低營運成本並提升代理效率的開發者與研究人員設計。
主要亮點
- 非侵入式:作為擴展安裝,無需修改 Pi 核心原始碼。
- 證據導向:確保原始觀測結果始終可用,防止壓縮過程中資料遺失。
- 可選啟用:所有效率機制預設關閉,需透過設定顯式啟用。
- Pi 相容:利用 Pi 的公開擴展 API,維持 Pi 的現有認證與提供者設定。
相關
- 專案
- 專案
- 專案
- 專案