atomicstrata/llm-wiki-compiler

The knowledge compiler. Raw sources in, interlinked wiki out. Inspired by Karpathy's LLM Wiki pattern.

What it solves

llmwiki 會把原始、未結構化的資料(PDF、網頁、筆記、文字稿)轉換成具結構、相互連結的 Markdown 維基。與傳統的 RAG(檢索增強生成)在查詢時取得原始片段不同,llmwiki 只在編譯時將知識一次性編譯成帶有引用的永久、類型化頁面。這樣可避免代理人與人類在原始檔案中重複重新發掘關係,打造一個隨時間累積、可審計的穩定知識庫。

How it works

系統使用兩階段 LLM 流程來抽取概念並產生類型化頁面(例如概念、實體、比較)。它實踐「編譯時」的知識觀念:將來源資料攝取並處理成以 YAML front‑matter 儲存的 Markdown 檔案的維基結構。

主要架構元件包括:

  • Configurable Lifecycle Profiles (CLP): 基於 JSON 的合約,定義實體 schema、關係與信任門檻,確保執行階段依照領域規則而非提示慣例運作。
  • Hybrid Retrieval: 結合語意分塊搜尋、BM25 重新排序與 wikilink 圖譜擴展,為查詢建構上下文包。
  • Quality Gates: 包含校驗引用與連結的 lint 系統,以及測量健康分數與引用精確度的評估框架。
  • Integration Layers: 提供 CLI、TypeScript SDK 與 MCP(Model Context Protocol)伺服器,讓代理人能與維基互動。

Who it’s for

此工具適合需要從原始素材建立永久、可審計知識庫的使用者,例如使用 autosci 模板的研究人員或使用 newsroom 模板的編輯團隊,也適合開發需要穩定、具引用上下文的 AI 代理人的開發者。

Highlights

  • Citation-Traceable Output: 每個主張與段落皆會標註具體的來源檔案與行號範圍。
  • Domain Templates: 為研究與編輯工作流程預先建好的模板,定義特定的實體類型與生命週期。
  • MCP Server: 允許 AI 代理人直接攝取、編譯、查詢與管理維基。
  • Open Knowledge Format (OKF): 支援以可攜帶的 Markdown 包匯入與匯出知識。
  • Incremental Compilation: 僅處理變更的來源,以節省時間與 API 成本。
  • Review Policy: 可根據信心或來源規則,將產生的頁面保留待人工審核。