jakobdylanc/llmcord

Make Discord your LLM frontend - Supports any OpenAI compatible API (OpenRouter, Ollama and more)

解決的問題

llmcord 將 Discord 伺服器轉變為與大型語言模型(LLMs)互動的協作介面。它允許朋友或社群成員共同與 AI 聊天,分支對話並共享上下文,而無需額外的獨立前端或複雜的資料庫設定。

工作原理

此機器人與 Discord 結合,並連接到任何 OpenAI 相容的 API(包括 OpenRouter 和 Google 等遠端提供者,或 Ollama 和 LM Studio 等本地部署)。它利用 Discord 自身的回覆系統來追蹤對話歷史;透過回覆訊息,機器人會將整個回覆鏈視為當前提示的上下文。這消除了對外部資料庫儲存聊天記錄的需求。

適用對象

希望將 LLM 功能引入其 Discord 社群,用於協作腦力激盪、共享 AI 助手,或對不同模型進行社交實驗的使用者。

主要特色

  • 基於回覆的上下文:使用 Discord 回覆鏈來管理對話歷史與分支。
  • 廣泛的模型支援:相容任何 OpenAI /v1/chat/completions API,包含本地與遠端提供者。
  • 多模態功能:使用具備視覺能力的模型時,支援圖片與文字檔案附件。
  • 彈性設定:支援熱重載設定、自訂系統提示,並提供對使用者、角色與頻道的細粒度權限控制。
  • 高效設計:單一 Python 檔案中完全非同步實作,採用優化訊息快取機制。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案