aavetis/PRarena
This repo tracks the opened and merged PRs by the top SWE coding agents by OpenAI, GitHub, and others. Updates regularly.
解決的問題
PRarena 透過追蹤 GitHub 上特定 AI 編碼代理(例如 Copilot、Codex、Cursor、Devin、Codegen 和 Jules)所產生的拉取請求(PR)數量與成功率,提供一種比較不同 AI 編碼代理效能的方法。它彌補了在不同開發工作流程中,理解哪些 AI 代理能產生最多可合併程式碼的知識缺口。
作用方式
本專案使用 GitHub 搜尋查詢來追蹤特定 AI 代理所建立的全部 PR、就緒 PR 與已合併 PR 的數量。透過聚焦於「就緒 PR」以對使用草稿 PR 方式不同的代理進行歸一化處理,根據已合併 PR 與就緒 PR 的比率來計算成功率。
適用對象
希望基於真實世界 GitHub 活動與合併成功率來對 AI 編碼代理進行基準測試的開發者與研究人員。
主要亮點
- 自主開發的互動式儀表板,用於視覺化統計數據。
- 追蹤包括 Copilot、Codex、Cursor、Devin 和 Jules 在內的多個主要 AI 代理。
- 透過區分草稿 PR 與就緒 PR 來歸一化資料,確保在不同代理工作流程之間進行公平比較。
相關
- 專案
- 專案
- 專案
- 專案
- 專案