higress-group/himarket

해결하는 문제

HiMarket은 분산된 AI 모델 사용, 통제되지 않은 공개 모델 접근으로 인한 보안 위험, AI 비용 및 SLA 추적의 어려움에 직면한 기업을 위한 것입니다. 조직 전체에 걸쳐 AI 리소스를 관리하고 배포할 수 있는 통합 진입점을 제공하며, 표준화된 마켓플레이스를 통해 AI 생산자와 소비자를 연결합니다.

작동 방식

Higress AI 게이트웨이 기반으로 구축된 HiMarket은 LLM, MCP 서버, 에이전트, 에이전트 기술과 같은 AI 기능을 표준화된 API 제품으로 정리합니다. 3계층 아키텍처를 사용합니다:

1. 인프라스트럭처: AI 게이트웨이(Higress, Nacos)를 사용하여 AI 리소스를 API로 캡슐화합니다.
2. 관리자 포털: 관리자가 리소스를 관리하고 인증 정책을 설정하며, 관측성 대시보드를 통해 사용량을 모니터링할 수 있습니다.
3. 개발자 포털: 개발자가 AI 제품을 탐색하고 구독하며 디버깅할 수 있는 세이프티 서비스 허브이며, 통합 도구인 HiChat(대화/테스트)와 HiCoding(보안 사전에서 AI 지원 프로그래밍)도 사용할 수 있습니다.

대상 사용자

조직 내에서 AI 기능을 공유하고 재사용하기 위해 중앙 집중식, 안전하고 관측 가능한 방법을 필요로 하는 기업의 AI 관리자 및 개발자입니다.

주요 특징

• 다중 리소스 마켓플레이스: 모델, MCP 서버, 에이전트, 에이전트 기술 전용 마켓플레이스.
• 기업용 관리 기능: 토큰 기반 메터링 및 청구, 전 체인 모니터링, 그레이스케일 배포 관리 포함.
• AI 경험 센터: 다중 모델 비교용 HiChat, 인간-AI 공동 개발용 HiCoding 탑재.
• 사용자 정의 가능: OIDC 인증 통합, 사용자 정의 브랜딩, 구독용 구성 가능한 승인 워크플로우 지원.