jakobdylanc/llmcord
Make Discord your LLM frontend - Supports any OpenAI compatible API (OpenRouter, Ollama and more)
何を解決するか
llmcord は Discord サーバーを Large Language Models (LLMs) と対話するための共同インターフェースに変換します。友人やコミュニティメンバーが AI と共同で会話し、会話の分岐やコンテキストの共有が可能になります。外部のスタンドアロンフロントエンドや複雑なデータベースのセットアップは不要です。
動作方法
このボットは Discord と連携し、OpenAI と互換性のある任意の API（OpenRouter や Google などのリモートプロバイダー、Ollama や LM Studio などのローカル環境を含む）に接続できます。会話履歴を管理するために Discord の返信システムを利用します。メッセージに返信することで、その返信チェーン全体を現在のプロンプトのコンテキストとして扱います。これにより、チャット履歴を保存する外部データベースの必要がありません。
対象ユーザー
Discord コミュニティに LLM 機能を導入して、共同でのアイデア出し、共有された AI アシスタント、あるいは異なるモデルを使った社会的実験をしたいユーザー向けです。
特徴
- 返信ベースのコンテキスト: Discord の返信チェーンを使って会話履歴と分岐を管理します。
- 広範なモデル対応: OpenAI
/v1/chat/completionsAPI と互換性があり、ローカルおよびリモートプロバイダーに対応します。 - マルチモーダル対応: 視覚対応モデルを使用する場合、画像やテキストファイルの添付をサポートします。
- 柔軟な設定: ホットリロード設定、カスタムシステムプロンプト、ユーザー、ロール、チャンネルごとの細かい権限制御を備えています。
- 効率的な設計: 単一の Python ファイルで完全に非同期実装され、最適化されたメッセージキャッシュを採用しています。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト