bionic-gpt/bionic-gpt

What it solves

Bionic は、厳格なデータ機密性が求められる組織向けに設計された、オンプレミスの ChatGPT 代替ソリューションです。企業は生成 AI 機能をローカルまたは自社データセンターにデプロイでき、機密データを外部クラウドプロバイダーに送信するリスクを回避できます。

How it works

Bionic は高性能な Rust ベースのサーバーと RAG エンジンを使用し、ユーザーと大規模言語モデル（LLM）間のやり取りをオーケストレーションします。PostgreSQL（PgVector 使用）と統合してデータ保存とベクトル検索を行い、ローカルのオープンソースモデルとリモートプロバイダーの両方をサポートします。システムには PDF、HTML、CSV など様々なファイル形式を処理するドキュメントエンジンが組み込まれ、Airbyte と連携して大規模データのインジェストが可能です。

Who it’s for

エンタープライズチームや組織向けに構築されており、堅牢なアクセス制御・データガバナンスを備えた安全なセルフホスト AI チャットインターフェースを提供し、Kubernetes を通じて数千人規模のユーザーへスケールできます。

Highlights

• Agentic RAG Pipelines：ノーコード UI で埋め込みとチャンク化を設定し、特定データセットで動作する AI アシスタントを作成。
• Enterprise Security：PostgreSQL の行レベルセキュリティ（RLS）、SSO 連携、非 root コンテナによりデータ漏洩や横方向移動を防止。
• Data Governance：ストリーミングおよびバッチのガードレールを提供し、プロンプトインジェクション等の脅威から保護。
• Flexible Deployment：Docker Compose でノートパソコンにデプロイ、または Kubernetes（k3s、EKS、AKS、GKE）で大規模にデプロイ可能。
• Model Agnostic：ローカル・リモートの複数 LLM を同時にサポートし、会話中にモデルを切り替えられる。
• API Access：AI アシスタントを OpenAI 互換 API に変換でき、専用キー管理とスロットリング制限を提供。