higress-group/himarket

何を解決するか

HiMarketは、分散したAIモデルの使用、制御されていない公開モデルへのアクセスによるセキュリティリスク、AIコストとSLAの追跡の難しさに直面する企業向けに設計されています。組織全体にわたるAIリソースの管理と配布の統一エントリーポイントを提供し、標準化されたマーケットプレイスを通じてAIの生産者と消費者をつなぎます。

動作方法

Higress AIゲートウェイに基づいて構築されたHiMarketは、LLM、MCPサーバー、エージェント、エージェントスキルなどのAI機能を標準化されたAPI製品として整理します。3層アーキテクチャを採用しています：

1. インフラストラクチャ：AIゲートウェイ（Higress、Nacos）を使用してAIリソースをAPIにカプセル化します。
2. 管理者ポータル：管理者がリソースを管理し、認証ポリシーを設定し、観測性ダッシュボードで使用状況を監視できます。
3. 開発者ポータル：開発者がAI製品を閲覧・購読・デバッグできるセルフサービスハブであり、統合ツール（HiChat：会話/テスト、HiCoding：セキュアなサンドボックス内でのAI支援プログラミング）も利用可能です。

対象ユーザー

組織内でAI機能を共有・再利用するための中央集権的で安全かつ観測可能な方法を必要とする企業のAI管理者および開発者。

主な特徴

• マルチリソースマーケットプレイス：モデル、MCPサーバー、エージェント、エージェントスキル専用のマーケットプレイス。
• 企業向け管理機能：トークンベースのメーターイングと請求、フルチェーン監視、グレースケールリリース管理を含む。
• AIエクスペリエンスセンター：複数モデル比較用のHiChat、人間とAIの共同開発用のHiCodingを搭載。
• カスタマイズ対応：OIDC認証統合、カスタムブランディング、購読用のカスタム承認ワークフローをサポート。