obot-platform/obot

Complete AI Governance Platform from Obot AI

Obot – 企业AI治理平台

简介

  • 一个开源平台,使组织能够运行私有“AI中心”。它位于AI赋能工具(VS Code、Claude Code、Cursor等)和这些工具使用的大语言模型(LLM)或工具调用服务之间。
  • 其目标是治理:控制谁可以调用哪个模型或工具,集中管理凭据,审计每个请求,并可选地在沙箱中托管自定义工具服务器(MCP服务器)。

关键组件

组件 作用
Obot服务器 核心服务,暴露两个网关(MCP和LLM),提供身份与访问控制、审计日志、工具服务器(MCP)和“技能”注册表。
MCP网关 所有模型调用协议服务器的策略强制执行单点入口——许多AI代理用于运行外部工具的通用API。
LLM网关 供应商无关的端点,将调用转发到OpenAI、Anthropic、Bedrock、Azure等,同时集中存储API密钥并应用按用户模型访问策略。
沙箱化MCP服务器/代理 在隔离容器或Kubernetes Pod中启动工具服务器(如npx、uvx、Docker容器)的能力,带有网络策略出站控制。
MCP和技能注册表 列出可用工具服务器和可重用“技能”(预打包的代理功能)的Git支持目录。
Obot CLI和技能 用于发现/安装批准的服务和技能的命令行客户端;允许AI代理调用CLI本身的“技能”。
Obot Sentry 可选的设备端代理,盘点已安装的AI客户端,向IDE注入钩子,记录本地工具调用,将审计覆盖范围扩展到用户的工作站。
身份与访问控制 与外部IdP(如SSO)集成,基于角色的权限,作用域API密钥和秘密管理。
审计日志 MCP调用、LLM请求、令牌使用、模型成本和设备端活动的关联日志,可按多个维度过滤并可导出。

使用方式

  1. 部署(Docker快速演示,Kubernetes生产)。README中的Docker命令启动服务,挂载主机Docker套接字,以便平台启动沙箱工具容器,并创建用于首次登录的引导令牌。
  2. 连接身份提供商(Okta、Azure AD等),以便用户使用公司凭据进行身份验证。
  3. 注册模型提供商(OpenAI、Anthropic等),并定义模型访问策略,指定哪些用户或组可以调用哪些模型。
  4. 添加MCP服务器或技能到Git支持的目录,可选地在平台内托管。
  5. 在工作站上安装Obot CLI;CLI可以拉取批准的MCP服务器/技能并将其暴露给本地AI客户端。
  6. 在受管设备上部署Obot Sentry,以捕获IDE侧工具调用(例如Claude Code、VS Code扩展)并强制设备级别策略。
  7. 监控所有内容,通过内置审计UI或导出日志用于SIEM集成。

为什么重要

  • 安全与合规:集中凭据存储、按用户模型限制和审计跟踪帮助企业满足AI使用的治理要求。
  • 避免供应商锁定:组织可以混合搭配模型提供商和工具服务器,而不必强制使用单一客户端堆栈。
  • 可扩展性:MCP抽象允许插入任何工具调用服务,技能注册表鼓励可重用的代理功能。

了解更多

  • 完整文档:https://docs.obot.ai
  • 设计提案和ADR保存在仓库中,以便深入了解架构。
  • Discord社区聊天(README中的链接)。

许可证:MIT,因此您可以在商业环境中运行、修改和嵌入该平台。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目