higress-group/himarket

解决的问题

HiMarket 专为那些面临 AI 模型使用分散、不受控的公共模型访问带来的安全风险，以及难以追踪 AI 成本和 SLA 的企业而设计。它提供了一个统一的入口，用于在整个组织内管理与分发 AI 资源，通过标准化的市场平台连接 AI 生产者与消费者。

工作原理

基于 Higress AI 网关构建，HiMarket 将 LLM、MCP 服务器、Agent 和 Agent 技能等 AI 能力组织为标准化 API 产品。采用三层架构：

1. 基础设施：利用 AI/API 网关（Higress、Nacos）将 AI 资源封装为 API。
2. 管理门户：允许管理员管理资源、设置认证策略，并通过可观测性仪表板监控使用情况。
3. 开发者门户：一个自助服务枢纽，开发者可浏览、订阅和调试 AI 产品，或使用集成工具如 HiChat（对话/测试）和 HiCoding（在安全沙箱中进行 AI 辅助编程）。

适用对象

需要在组织内部以集中化、安全且可观察方式共享和复用 AI 能力的企业 AI 管理员和开发者。

核心亮点

• 多资源市场：为模型、MCP 服务器、Agent 和 Agent 技能分别设立专用市场。
• 企业级管理：包含基于令牌的计量与计费、全链路监控以及灰度发布管理。
• AI 体验中心：提供 HiChat 用于多模型对比，HiCoding 用于人机协同开发。
• 可定制化：支持 OIDC 身份集成、自定义品牌和可配置的订阅审批流程。