ThinkWatchProject/ThinkWatch
Enterprise AI bastion host for secure AI API and MCP access, with unified proxying, RBAC, audit logs, rate limiting, and cost tracking across OpenAI, Anthropic, Gemini, and self-hosted LLMs.
解决的问题
ThinkWatch 是一款企业级安全网关,旨在集中管理 AI API 调用和模型上下文协议(MCP)工具调用。它解决了组织中常见的挑战,例如分散的 API 密钥、无法监控 token 使用量和成本、模型与工具缺乏访问控制,以及审计日志中的合规性缺口。
工作原理
ThinkWatch 作为统一代理(网关)和管理界面(控制台)运行。它拦截所有 AI 请求和 MCP 工具调用,提供单一控制平面用于认证、授权和监控。
- AI 网关:可作为 Cursor 或 Claude Code 等多种 AI SDK 和客户端的即插即用替代品,将请求路由到 OpenAI、Anthropic、Google Gemini 等提供商,同时处理格式转换和流式传输。
- MCP 网关:不同于普通代理,它通过用户级 OAuth 令牌或 PAT 将真实终端用户身份传递给上游服务器,确保上游侧的审计日志反映实际用户,而非共享服务账户。
- 治理引擎:实现多层级 RBAC 系统、带生命周期管理的虚拟 API 密钥,以及结合滑动窗口速率限制和自然周期预算上限的复杂配额系统。
适用对象
专为需要在团队中安全、审计和治理 AI 代理泛滥的组织和工程团队设计,尤其适用于需要严格身份传递以支持 MCP 工具和详细成本归因的场景。
核心亮点
- 统一 AI 代理:单个端口支持多种 API 格式(OpenAI、Anthropic)和提供商(Azure、Bedrock、Gemini)。
- 身份感知 MCP:通过加密的 OAuth/PAT 保险库将真实用户身份传递至上游工具,避免“共享服务账户”问题。
- 高级配额管理:结合滑动窗口速率限制与日历对齐的预算上限,并支持按模型的 token 加权。
- 企业级安全:采用 AES-256-GCM 加密、OIDC/SSO 集成,以及无发行版容器,实现最小攻击面。
- 深度可观测性:使用 ClickHouse 实现高性能审计日志,并提供 Prometheus 指标用于实时监控。
相关
- 项目
- 项目
- 项目
- 项目
- 项目