zyf2007/ChatAPI

解決的問題

ChatAPI 允許人類像 AI 模型一樣被呼叫。它提供 OpenAI 風格的 API 介面，將 AI 客戶端或代理的請求路由至人類操作員，使人們可以手動回應提示，作為代理工作流程中的「模型」，或在開發過程中擔任 Mock LLM。

工作原理

此專案實作了後端（Go）與 Web 控制台（React），模擬標準 AI API 端點。當 AI 客戶端向 /v1/chat/completions 或 /v1/responses 發送請求時，系統會將請求路由至人類操作員。操作員可使用 Web 控制台回應使用者、組裝工具呼叫請求，或設定自動回覆規則。

適用對象

• AI 開發者：需要一個 Mock LLM 來測試工作流程，而無需消耗 token 或使用真實模型的開發者。
• 代理使用者：希望作為「人在回路」元件被整合至 AI 代理邏輯中的人。
• 測試人員：希望為特定情境模擬 AI 回應的任何人。

特色亮點

• API 相容性：支援 OpenAI 風格的回應、Anthropic Messages 相容介面（/messages），以及自訂的 /v1/responses 端點。
• Web 控制台：包含基於 React 的 UI，用於管理回應與設定自動回覆規則。
• 彈性部署：支援 Docker Compose 一鍵部署、內嵌前端的單一二進位建構，或分離的前後端部署。
• 資料庫支援：預設使用 SQLite，未來計畫支援 PostgreSQL。
• 工具支援：可透過控制台組裝工具呼叫請求。