Semble：優化 AI 代理程式碼搜尋，減少 98% 令牌

對於開發 AI 程式碼代理的開發者而言，"grep-and-read"（搜尋並讀取）循環是一個臭名昭著的瓶頸。當代理需要了解程式碼庫時，通常會先 grep 關鍵字，定位檔案，然後將整個檔案讀入其上下文視窗。這個過程不僅緩慢，且極度浪費，常常為了找到單一函式定義而在無關的程式碼上消耗數千個令牌。

Semble 是一個旨在打破此循環的程式碼搜尋庫。它為代理提供以自然語言和語意查詢的方式，只返回最相關的程式碼片段，Semble 宣稱相較於傳統的 grep 為基礎的探索，可減少高達 98% 的令牌使用量。

Semble 的架構

不同於重量級的基於 transformer 的搜尋引擎，Semble 以速度與本地執行為設計目標。它完全在 CPU 上運行，無需 GPU、API 金鑰或外部服務。

工作原理

Semble 採用混合檢索策略，以確保精確度與召回率兼備：

  1. Code-Aware Chunking：使用 Chonkie 函式庫，Semble 將檔案切分為符合程式碼邏輯結構的片段。
  2. Hybrid Retrieval：它結合兩種互補的方法：
    • Semantic Search：利用靜態的 Model2Vec 向量（透過 potion-code-16M 模型）來衡量概念相似性。
    • Lexical Search：使用 BM25 進行標識符與 API 名稱的精確匹配。
  3. Reciprocal Rank Fusion (RRF)：將兩個檢索器的結果融合，產生統一的排序。
  4. Code-Aware Reranking：最終結果會透過多項特定訊號進行重新排序：
    • Adaptive Weighting：類似符號的查詢（例如 getUserById）會優先考慮詞彙匹配，而自然語言查詢則保持平衡。
    • Definition Boosts：定義類別或函式的片段會比僅僅引用它的片段排名更高。
    • Identifier Stemming：查詢詞彙會進行詞幹化，以匹配如 parseConfig 與 ConfigParser 等變體。
    • Noise Penalties：測試檔案、舊版 shim 與宣告存根會被降級，以優先顯示正規實作。

效能與基準測試

Semble 的主要價值主張在於速度與準確度的結合。根據專案的基準測試，它在 NDCG@10 上達到 0.854，幾乎與更大型的 transformer 模型（如 CodeRankEmbed Hybrid）相同，但延遲大幅降低。

  • Indexing Speed：平均的程式庫可在約 250ms 內完成索引。
  • Query Latency：查詢通常在約 1.5ms 內完成。
  • Token Efficiency：專案報告稱，Semble 僅使用 2k 令牌即可達到 94% 的召回率，而 grep+read 方法則需要 100k 的上下文視窗才能僅達到 85% 的召回率。

整合與工作流程

Semble 被設計為現代代理框架的「即插即用」工具。它可透過兩種主要方式整合：

1. Model Context Protocol（MCP）伺服器

對於支援 MCP 的代理（例如 Claude Code、Cursor 或 Codex），Semble 可作為伺服器執行。這讓代理能直接呼叫 search 與 find_related 工具。程式庫會依需求被克隆並索引，且會監控本機路徑以自動重新索引。

2. Bash 整合

對於子代理或基於 CLI 的框架，Semble 可加入 AGENTS.md 或 CLAUDE.md。這會指示代理使用 semble search "query" ./path 取代依賴 grep。

社群觀點與批判分析

雖然基準測試令人印象深刻，Hacker News 社群仍提出多項關於語意搜尋在代理工作流程中實務應用的批判點。

「信任」問題

一個重要的顧慮是 LLM 是否真的會信任語意搜尋工具的結果。正如使用者 (@jerezzprime) 所指出的，許多模型在 grep 上進行了大量的強化學習調整。如果模型不信任語意結果，它仍可能執行 grep 或重新讀取檔案，從而抵消令牌的節省。

機率式與確定式搜尋

與確定性的 grep 不同，Semble 為機率式。部分使用者擔心小型嵌入模型可能錯過關鍵且不常見的標識符，而文字字串搜尋則能立即找到。

「認知赤字」假說

更具哲學性的批評認為，提供「捷徑」工具可能會削弱代理的認知能力。有人主張，代理透過 tree 與 grep 瀏覽程式碼庫的能力是其推理過程的核心，將其替換為黑箱檢索工具可能在長期任務中導致「可部署智慧」的淨負面影響。

真實世界測試

儘管有上述批評，仍有使用者報告正面結果。使用者 (@aadishv) 進行了對照測試，發現雖然非 Semble 版本有時更為詳盡，但 Semble 版本在特定追蹤任務中始終更具上下文效率與成本效益。

結論

Semble 代表了向「代理原生」程式碼搜尋的轉變。透過拋棄閱讀整個檔案的高成本且不精確的流程，它讓代理能以更小的上下文佔用運作。雖然關於機率式搜尋是否能完全取代 grep 的確定性仍有爭論，但巨大的令牌開銷減少，使 Semble 成為任何擴展 AI 驅動開發的有力工具。

Sources