bionic-gpt/bionic-gpt

Bionic is an on-premise replacement for ChatGPT, offering the advantages of Generative AI while maintaining strict data confidentiality

What it solves

Bionic 是一个本地部署的 ChatGPT 替代方案，专为需要严格数据机密性的组织设计。它允许公司在本地或自有数据中心部署生成式 AI 功能，避免将敏感数据发送至外部云提供商的风险。

How it works

Bionic 使用高性能的 Rust 服务器与 RAG 引擎，协调用户与大型语言模型（LLM）之间的交互。它集成 PostgreSQL（使用 PgVector）作为数据存储与向量搜索，并支持本地开源模型与远程供应商。系统内置文档引擎，可处理 PDF、HTML、CSV 等多种文件格式，并与 Airbyte 结合进行大规模数据导入。

Who it’s for

此方案为企业团队与组织打造，提供安全的自托管 AI 聊天界面，具备完善的访问控制、数据治理，并能通过 Kubernetes 扩展至千级用户。

Highlights

  • Agentic RAG Pipelines：使用无代码 UI 配置嵌入与切分，创建针对特定数据集工作的 AI 助手。
  • Enterprise Security：包括 PostgreSQL 的行级安全（RLS）、单点登录（SSO）集成，以及非 root 容器以防止数据泄漏与横向移动。
  • Data Governance：提供流式和批量的防护机制，防止提示注入等安全威胁。
  • Flexible Deployment：支持通过 Docker Compose 在笔记本电脑上部署，或使用 Kubernetes（k3s、EKS、AKS、GKE）大规模部署。
  • Model Agnostic：同时支持多个本地和远程 LLM，用户可在对话中自由切换模型。
  • API Access：AI 助手可转换为兼容 OpenAI 的 API，具备专属密钥管理与限流。