sdcb/chats

A powerful and flexible frontend & AI gateway for large language models, supporting 21+ mainstream AI model providers.

何を解決するか

Sdcb Chats は、22 以上の異なる AI モデルプロバイダーと対話するための統合的で柔軟なフロントエンドを提供します。複数の別々のインターフェースを管理する必要を排除し、さまざまな LLM API を単一のエントリポイントに統合し、企業向けの管理機能を備えています。

動作方法

C# と TypeScript で構築されたこのプロジェクトは、ユーザーインターフェースと API ゲートウェイの両方として機能します。標準プロトコル(Chat Completions、Messages、Responses、Gemini)をサポートし、Docker またはネイティブ実行可能ファイルとして迅速にデプロイできます。コードインタプリタ用の Docker サンドボックス(ブラウザ、コード実行、Excel ツールをサポート)を内蔵しており、SQLite、SQL Server、PostgreSQL およびさまざまなクラウドストレージプロバイダー(AWS S3、Aliyun OSS、Azure Blob)など、柔軟なストレージオプションを提供しています。

対象ユーザー

複数の AI モデルを管理するための中央ハブを求める個人および企業、および権限制御、残高管理、SSO 統合を備えたセキュアなマルチユーザー環境が必要なユーザー向けです。

主な特徴

  • 広範な互換性: 22 以上の主流 AI モデルプロバイダーをサポート。
  • 統合ツール: Docker サンドボックスを備えたコードインタプリタで、コードの実行とファイル処理が可能。
  • 企業向けセキュリティ: ユーザー権限管理、アカウント残高制御、レート制限、監査ログ、Keycloak SSO を搭載。
  • 可観測性: 全リンクリクエストトレースにより、インバウンドおよびアウトバウンドリクエストのデバッグが可能。
  • マルチモーダル対応: 視覚入力と画像生成を処理できます。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト