xming521/WeClone
🚀 One-stop solution for creating your AI twin from chat history 💡 Fine-tune LLMs with your chat logs to capture your unique style, then bind to a chatbot to bring your digital self to life.
解決的問題
WeClone 提供了一個端到端的工作流程,用於建立一個模仿特定人物聊天風格與性格的數位化身。它解決了手動編寫複雜提示詞來模擬角色的問題,改為使用真實的聊天紀錄來微調大型語言模型 (LLM)。
運作方式
該系統遵循四個步驟的流程:
- 資料匯出與預處理:匯入聊天紀錄(目前支援 Telegram),並使用 Microsoft Presidio 過濾敏感的私人資訊(如電話號碼和電子郵件),以及使用自訂的封鎖名單來移除不需要的內容。
- 微調:使用 LLaMA Factory 在基礎模型(預設為 Qwen2.5-VL-7B-Instruct)上執行監督式微調 (SFT),採用 LoRA 或 QLoRA 等方法,將使用者特定的對話「風味」注入模型中。
- 推論:微調後的模型透過 API 或基於瀏覽器的網頁聊天示範來提供服務。
- 部署:透過 AstrBot 或 LangBot 等聊天機器人框架,將化身整合到 Telegram、Discord、Slack 或 WeChat 等通訊平台中。
適用對象
希望基於真實對話資料建立自己或他人個人化 AI 版本的使用者,以及探索基於角色的 LLM 微調的研究人員。
亮點
- 端到端工作流程:涵蓋從原始資料匯出到最終機器人部署的所有環節。
- 多模態支援:支援使用圖像模態資料進行微調,以更好地捕捉對話情境。
- 注重隱私:包含內建的 PII(個人識別資訊)過濾功能,在訓練前保護資料安全。
- 靈活部署:相容於多個 IM 平台與現有的 LLM 機器人框架。
相關
- 專案
- 專案
- 專案
- 專案
- 專案