laiso/site2pdf
Generate comprehensive PDFs of entire websites, ideal for RAG.
解決的問題
簡化將整個網站轉換為單一可攜帶PDF文件的流程。此工具專為方便將網站內容輸入Google NotebookLM或ChatGPT GPTs等AI工具,用於檢索增強生成(RAG)與問答(QA)任務而設計。
工作原理
該工具使用Puppeteer啟動無頭Chrome瀏覽器,爬取起始URL以根據提供的模式尋找匹配連結,並並行生成每個頁面的PDF。最後,使用pdf-lib庫將這些獨立的PDF合併為一個完整的文件。
適用對象
需要將基於網頁的文件或網站轉換為易於上傳至基於LLM知識庫格式的開發者與AI實踐者。
主要亮點
- AI就緒:透過保留視覺格式與圖片,特別優化用於RAG與多模態AI模型。
- 並行處理:透過並行處理多個頁面,加快生成速度。
- 靈活過濾:允許使用者指定正則表達式模式,僅包含網站的特定部分。
- 便攜輸出:將多個網頁合併為一個可共享的PDF文件。
相關
- 專案
- 專案
- 專案
- 專案
- 專案