bionic-gpt/bionic-gpt

Bionic is an on-premise replacement for ChatGPT, offering the advantages of Generative AI while maintaining strict data confidentiality

What it solves

Bionic 是一個本地部署的 ChatGPT 替代方案，專為需要嚴格資料機密性的組織設計。它允許公司在本地或自有資料中心部署生成式 AI 功能，避免將敏感資料傳送至外部雲端供應商的風險。

How it works

Bionic 使用高效能的 Rust 伺服器與 RAG 引擎，協調使用者與大型語言模型（LLM）之間的互動。它整合 PostgreSQL（使用 PgVector）作為資料儲存與向量搜尋，並支援本地開源模型與遠端供應商。系統內建文件引擎，可處理 PDF、HTML、CSV 等多種檔案格式，並與 Airbyte 結合以進行大規模資料匯入。

Who it’s for

此方案為企業團隊與組織打造，提供安全的自託管 AI 聊天介面，具備完善的存取控制、資料治理，並能透過 Kubernetes 擴展至千級使用者。

Highlights

Agentic RAG Pipelines：使用無程式碼 UI 設定嵌入與切分，建立針對特定資料集工作的 AI 助手。
Enterprise Security：包含 PostgreSQL 的列級安全（RLS）、單一登入（SSO）整合，以及非 root 容器以防止資料外洩與橫向移動。
Data Governance：提供串流與批次的防護機制，防止提示注入等安全威脅。
Flexible Deployment：支援透過 Docker Compose 在筆記型電腦上部署，或使用 Kubernetes（k3s、EKS、AKS、GKE）大規模部署。
Model Agnostic：同時支援多個本地與遠端 LLM，使用者可在對話中自由切換模型。
API Access：AI 助手可轉換為相容 OpenAI 的 API，具備專屬金鑰管理與流量限制。