AI 垃圾的成本：為什麼 Turso 停止了其漏洞獎勵計畫

在近一年的時間裡，Turso 運行著一個簡單明瞭的激勵計畫：任何能證明會導致數據損壞的漏洞都將獲得 1,000 美元的獎勵。在資料庫工程領域——特別是在重寫像 SQLite 這樣傳奇的系統時——這象徵著信心，也是進行嚴格驗證的工具。

然而，Turso 最近宣布停止這項計畫。原因並非缺乏漏洞或資金，而是「垃圾機器」的出現：大規模生成的低品質、AI 驅動的貢獻，威脅著要讓維護者淹沒在噪音中。

獎勵計畫的哲學

Turso 對可靠性的追求是徹底的。他們使用原生 Deterministic Simulator、fuzzers、基於 oracle 的 SQLite 差異測試引擎，以及在 Antithesis 上的大量運行。儘管如此，團隊仍意識到自動化測試的效果僅取決於其生成的場景。如果一個 fuzzer 從未生成過特定的索引配置，它就永遠無法發現與該配置相關的漏洞。

漏洞獎勵計畫的設計初衷是填補這些空白。透過提供金錢獎勵，Turso 希望吸引技術精湛的開發者，他們能夠發現內部模擬器所錯過的「極端邊緣案例」。在一段時間內，這項計畫運作得非常出色。該計畫獎勵了五個人，其中包括利用 LLM 創意地識別模擬器漏洞，或將模擬器與形式化方法結合以發現不僅在 Turso 中、甚至在 SQLite 本身中存在的漏洞的貢獻者。

「垃圾機器」的到來

當提交 PR 的門檻降低到接近於零時，局勢發生了轉變。隨著先進 LLM 的出現，「垃圾製造者」開始將 AI 指向程式碼庫，目標只有一個：領取獎勵。由於 LLM 被設計為無論其有效性如何都要產生輸出，其結果就是大量的無意義提交。

Turso 指出了幾種這種 AI 生成噪音的荒謬例子：

手動損壞： 一位提交者手動將垃圾位元組注入資料庫標頭，並聲稱這是一個導致損壞的漏洞。
蓄意破壞： 另一位提交者修改了原始碼，手動添加了一個越界陣列存取來強制造成損壞。
邏輯謬誤： 一個 PR 聲稱這是一個「關鍵漏洞」，因為 SQL 資料庫允許執行 SQL 語句。
設計誤解： 一個提交內容證明了 SQLite 無法在重置日誌模式之前開啟檔案——而這正是該系統設計的操作方式。

勞動的不對稱性

核心問題在於勞動極度不對稱。正如 Turso 所指出的，對於「垃圾製造者」來說，使用 LLM 生成一個提交可能只需要一分鐘，但對於維護者來說，閱讀、分析並與該 PR 進行互動需要花費數小時。

即使嘗試透過「擔保系統」來緩解這一點也失敗了。當機器人的 PR 被自動關閉時，機器人會直接開啟新的 issue，質疑關閉的原因並要求人工檢視，並使用同樣那種「大篇幅文字」的 LLM 風格。這造成了一個循環，使得激勵機制（金錢）變得如此之高，以至於 AI 代理程式被程式化為會持續不斷地爭論、辯論並重新開啟 issue。

社群共識與潛在解決方案

Turso 的公告引發了開發者社群關於 AI 時代下開源軟體治理的更廣泛討論。討論中出現了幾個關鍵主題：

人類注意力的瓶頸

一位觀察者指出，軟體工程的瓶頸已發生轉移。雖然 AI 可以瞬間寫出程式碼，但現在的瓶頸是人類閱讀和理解程式碼的能力。這反映了「高產工程師」的陷阱——開發者寫出大量的程式碼，卻因為審查過程成為了無法逾越的負擔，反而拖慢了團隊的進度。

經濟威懾手段

為了對抗這股低品質提交的浪潮，幾位社群成員建議引入「進入門檻」：

名義費用： 要求提交漏洞時支付一小筆押金（例如 20 美元），如果漏洞是真實的，則會退還。
門檻服務： 第三方「漏洞獎勵門檻服務」可以驗證報告者的身份與誠信，在他們提交至專案計畫時，進行驗證。
聲譽系統： 轉向使用可驗證的人類身份與公開聲譽作為獲得獎勵資格的預備條件。

開源軟體的「永恆九月」ausschuss

一些評論者將此視為一種更廣泛的系統性轉變，將其比作網際網路的「永恆九月」——這是一個時期，大量新增的、低品質的參與者永久性地改變了文化與現有參與模式的可行性。

結論

Turso 的決定停止其獎勵計畫，對開源軟體生態系統是一個警示。它證明了，金錢激勵可以曾經作為安全與穩定性的強大工具，而當生成提交的成本降至零時，這些激勵機制反而會變成負擔。隨著 AI 繼續降低貢承獻的門檻，專案可能被迫在「對公眾關閉系統」或「尋找全新的方式來驗證人類的意圖圖與專業知識」之間做出選擇。