jakobdylanc/llmcord
Make Discord your LLM frontend - Supports any OpenAI compatible API (OpenRouter, Ollama and more)
解决的问题
llmcord 将 Discord 服务器转变为与大型语言模型（LLMs）交互的协作界面。它允许朋友或社区成员共同与 AI 对话，分支对话并共享上下文，而无需单独的独立前端或复杂的数据库设置。
工作原理
该机器人与 Discord 集成，并连接到任何 OpenAI 兼容的 API（包括 OpenRouter 和 Google 等远程提供商，或 Ollama 和 LM Studio 等本地部署）。它利用 Discord 自身的回复系统来追踪对话历史；通过回复一条消息，机器人会将整个回复链视为当前提示的上下文。这消除了对额外数据库来存储聊天记录的需求。
适用人群
希望将 LLM 功能引入其 Discord 社区，用于协作头脑风暴、共享 AI 辅助或对不同模型进行社交实验的用户。
主要亮点
- 基于回复的上下文：使用 Discord 回复链来管理对话历史和分支。
- 广泛的模型支持：兼容任何 OpenAI
/v1/chat/completionsAPI，包括本地和远程提供商。 - 多模态功能：使用具备视觉能力的模型时，支持图像和文本文件附件。
- 灵活的配置：支持热重载设置、自定义系统提示，并提供对用户、角色和频道的细粒度权限控制。
- 高效设计：单个 Python 文件中完全异步实现，采用优化的消息缓存机制。
相关
- 项目
- 项目
- 项目
- 项目
- 项目