Ichigo3766/Open-Relay

解决的问题

Open Relay 为自托管 Open WebUI 服务器的用户提供高性能的原生 iOS 和 iPadOS 体验。它取代了移动网页浏览器的体验，提供一个精致、系统集成的应用程序，让用户随时随地与自己的私有 AI 模型进行交互。

工作原理

该应用完全使用 SwiftUI 和 Swift 6 构建，作为原生客户端，通过 Server-Sent Events (SSE) 连接到 Open WebUI 服务器，实现实时流式传输。它与 Apple 的 CallKit 集成，使用 MLX Swift 在设备上进行语音识别（Qwen3 ASR）和语音合成（Marvis Neural Voice），确保语音处理完全在设备本地完成。

适用人群

自托管 Open WebUI 并希望获得深度系统集成的原生 Apple 生态系统应用（iPhone、iPad、Apple Watch）的用户，例如支持主屏幕小部件、操作按钮快捷方式以及 iPad 特有的布局。

主要亮点

• 原生语音集成：通过 CallKit 实现 AI 语音通话，并带有实时动画球形可视化效果。
• 设备端机器学习：使用 MLX Swift 实现离线 TTS 和 STT。
• 高级聊天界面：支持 Markdown、Mermaid 图表、SVG 以及可折叠的推理块，适用于链式思维模型。
• 系统集成：支持自定义 URL 方案，可通过 Raycast、Apple Shortcuts 和 Home Assistant 实现自动化。
• RAG 与组织功能：原生支持知识库（使用 # 触发）和基于文件夹的组织结构，支持每个文件夹的系统提示。
• 跨点功能：支持终端集成，可直接通过 AI 访问服务器终端，并嵌入丰富的 HTML 内容以使用交互式工具。