rossoctl/rossoctl

Main rossoctl repo - installer, UI and docs

Rossoctl – 可信 AI 代理的平台基础组件

是什么 – Rossoctl 是一个开源、与框架无关的平台,位于 AI 代理与其使用的外部资源(模型、工具、用户、其他代理)之间。它提供了一个名为 RossoCortex数据平面,拦截所有代理交互,并强制执行安全、身份、授权、弹性与可观测性保障。在数据平面之上,Rossoctl 提供了一组可复用的 服务(技能、工具、记忆、知识库、沙箱)以及用于管理、监控和治理的工具。

为何重要 – 现代 LLM 驱动的代理是动态的:它们在运行时选择工具、修改自身提示,并可能偏离原始目标。现有云运行时(如 Kubernetes)为传统微服务提供这些保障,但代理缺乏类似的防护网。Rossoctl 通过将 代理逻辑操作保障 解耦,使任何代理——无论底层框架如何——都能获得相同的准入控制、隔离、故障恢复和可审计性。


核心组件

组件 角色 成熟度(截至 v0.7.0)
RossoCortex(数据平面) 透明拦截,验证身份、授权操作、可压缩上下文、分析数据流、从故障中恢复。 身份与授权 – 就绪;基于意图的访问、工具验证、上下文压缩、数据流分析、故障恢复、用户交互 – beta/alpha
Rossoctl 服务 代理调用的构建块 API:
  • 技能 – 版本化、受控的能力
  • 工具 – 外部实用程序
  • 记忆 – 持久化状态
  • 知识库 – 可搜索的事实
  • 沙箱 – 隔离的执行环境 | 通常可用;具体功能随平台演进 | | 工具 | CLI、UI、CRDs、可观测性仪表板、安全与治理辅助工具。 | GA(UI、CLI) |

如何交互

  • SDK – 代理与 RossoCortex 通信的语言绑定。
  • 钩子 – 注入拦截的侧车容器或初始化脚本。
  • 网关 – 代理流量的网络入口点,用于代理。
  • 编排层 – Kubernetes Operator/CRD,用于管理整个栈。

典型工作流(快速入门)

  1. 前提条件 – Python ≥ 3.9(带 uv),Docker/Podman,本地 K8s 集群(kind/Rancher Desktop),以及用于本地 LLM 推理的 Ollama。
  2. 部署 – 克隆仓库,检出最新发布标签(如 v0.7.0),配置密钥,运行提供的 setup-rossoctl.sh 脚本,该脚本将安装 Helm 图表、可选 UI、SPIRE 身份提供者、沙箱运行时和构建流水线。
  3. 访问 UI – 脚本会打印服务 URL 和凭证;打开 http://rossoctl-ui.localtest.me:8080 登录。
  4. 使用 UI – 导入 A2A 兼容代理,部署 MCP 工具,运行交互式聊天,查看追踪/网络可视化。
  5. 扩展 – 通过 自带代理 指南引入自己的代理(任何框架),或开发由 Rossoctl 管理的自定义技能/工具。

谁应考虑 Rossoctl?

  • 企业:构建需要审计追踪、基于角色的访问和保证恢复的生产级 LLM 代理的企业。
  • ML Ops 团队:希望以 Kubernetes 原生方式与传统工作负载并行运行代理的团队。
  • 安全导向开发者:寻找可验证代理身份和策略驱动工具使用的开发者。
  • 研究人员:在仍拥有沙箱测试环境的前提下,实验新型代理间(A2A)协议或模型上下文(MCP)集成的研究者。

文档与社区

  • 完整文档https://rossoctl.dev/docs/(快速入门、概念、架构、安全、参考)。
  • Slack 社区 – 通过 README 中的徽章加入。
  • OpenSSF Scorecard – 显示项目供应链健康状况。
  • 贡献指南CONTRIBUTING.md 说明如何提交 PR、运行 CI 和添加演示。

许可证

Apache 2.0 – 允许商业使用和修改的宽松开源许可证。


核心要点 – Rossoctl 为 AI 代理提供了缺失的“操作系统”层,使其获得与 Kubernetes 为容器化服务提供的相同生产保障,同时保持与框架无关,并基于开放标准(A2A、MCP)构建。

相关

  • 项目
  • 项目
  • 项目
  • 项目