bigsk1/voice-chat-ai

🎙️ Speak with AI - Run locally using Ollama, OpenAI, Anthropic or xAI - Speech uses SparkTTS, OpenAI, ElevenLabs, Kokoro, xAI and more

它解决了什么问题

Voice Chat AI 提供了一种与AI角色进行自然口语对话的方式。它通过将语音转文字(STT)、大语言模型(LLMs)和文字转语音(TTS)整合到单一界面中,消除了打字的障碍,使用户能够与不同个性的角色互动,或参与互动游戏和故事。

它如何工作

该系统充当多个AI服务之间的协调器。它捕获用户音频,使用OpenAI或本地Faster Whisper进行语音转写,将文本通过选定的LLM(如OpenAI、xAI、Anthropic或Ollama)处理,然后使用TTS提供者(如ElevenLabs、Spark-TTS、Kokoro或OpenAI)合成语音回复。它还支持OpenAI的WebRTC实时API,实现即时、可中断的对话,并包含情感分析功能,可根据用户情绪调整AI回复。

适合谁

专为希望获得沉浸式AI伴侣体验的用户、角色扮演者以及希望尝试混合本地和云端AI模型进行语音交互的开发者设计。

主要特点

  • 多服务商支持:可自由组合LLM(OpenAI、xAI、Anthropic、Ollama)和TTS引擎(ElevenLabs、Kokoro、Spark-TTS等)。
  • 实时交互:支持OpenAI的实时API,实现低延迟、可中断的语音对话。
  • 本地运行:可选择使用Ollama和本地TTS模型在本地运行全部功能,确保隐私并降低使用成本。
  • 角色驱动:内置大量角色,并提供专门用于互动游戏和叙事的模式。
  • 视觉感知:可通过特定语音命令,利用LLaVA或OpenAI分析用户的屏幕。
  • 灵活部署:可通过Web UI、终端或Docker使用。

一个真正让AI角色“开口说话”的工具——不再只是文字,而是声音与情感的交流。— @handle

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目