kldhsh123/Afterglow
基于 RAG(免微调)从聊天记录唤起语气与回忆:让曾经对话的温度,延续为往后的陪伴。 | Zero-finetuning RAG to revive tone and memories from chat logs: Let the warmth of past conversations continue into companionship.
解決する課題
Afterglowは、実際の過去のチャットログを使用して、特定の人物とチャットする感覚を再現するように設計されています。ユーザーは、基盤となるLLMをファインチューニングすることなく、実在の個人の性格、表現スタイル、共有された記憶を模倣するデジタルコンパニオンを構築できます。
仕組み
このシステムは、ペルソナ管理と組み合わせたRetrieval-Augmented Generation(RAG)パイプラインを使用します。インポートされたチャットログ(QQ、WeChat、Douyinなどのプラットフォームから)を、テキストをクリーニング、分割、ベクトル化するパイプラインを通して処理します。
主なコンポーネントは次のとおりです。
- ハイブリッド検索: RRF(Reciprocal Rank Fusion)を使用して、関連する過去のテキスト、画像サマリー、ライブメモリを取得する5方向ベクトル呼び出しシステム。
- ペルソナと状態管理: ペルソナカード、概日(睡眠/覚醒)プロファイル、ライフ状態を維持して、AIの応答が時刻やその人の習慣に文脈に応じて適切であることを保証します。
- オフライン分析:
xuwen analyzeなどのツールは、チャット履歴からタイムラインとパーソナリティレポートを生成し、AIの動作をさらに洗練させます。 - OpenAI互換API: バックエンドは、システムをさまざまなサードパーティクライアントやボット(QQBot、WeiXinBotなど)に接続できるようにするAPIを提供します。
対象ユーザー
愛する人や友人の言語スタイルと記憶を保存したい個人、または実際のインタラクションデータに基づいて高度にパーソナライズされたAIコンパニオンを作成したい人。
ハイライト
- マルチソースインポート: 複数のソーシャルプラットフォームからのJSONやJSONLなど、さまざまなチャットエクスポート形式をサポート。
- ローカルファーストのプライバシー: LanceDBを使用してベクトルとペルソナをローカルに保存し、PIIの編集とオフラインモデルサービスをサポート。
- プロアクティブメッセージング: 分析された性格特性とスケジュールに基づいて会話を開始できるエンジンが含まれています。
- メモリレイヤリング: 実際の人間の履歴、新しいユーザーメッセージ、AI生成の応答を区別して、AIコンテンツが長期的なペルソナを汚染するのを防ぎます。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト