rossoctl/rossoctl
Main rossoctl repo - installer, UI and docs
Rossoctl – 可信 AI 代理的平台基础组件
是什么 – Rossoctl 是一个开源、与框架无关的平台,位于 AI 代理与其使用的外部资源(模型、工具、用户、其他代理)之间。它提供了一个名为 RossoCortex 的 数据平面,拦截所有代理交互,并强制执行安全、身份、授权、弹性与可观测性保障。在数据平面之上,Rossoctl 提供了一组可复用的 服务(技能、工具、记忆、知识库、沙箱)以及用于管理、监控和治理的工具。
为何重要 – 现代 LLM 驱动的代理是动态的:它们在运行时选择工具、修改自身提示,并可能偏离原始目标。现有云运行时(如 Kubernetes)为传统微服务提供这些保障,但代理缺乏类似的防护网。Rossoctl 通过将 代理逻辑 与 操作保障 解耦,使任何代理——无论底层框架如何——都能获得相同的准入控制、隔离、故障恢复和可审计性。
核心组件
| 组件 | 角色 | 成熟度(截至 v0.7.0) |
|---|---|---|
| RossoCortex(数据平面) | 透明拦截,验证身份、授权操作、可压缩上下文、分析数据流、从故障中恢复。 | 身份与授权 – 就绪;基于意图的访问、工具验证、上下文压缩、数据流分析、故障恢复、用户交互 – beta/alpha |
| Rossoctl 服务 | 代理调用的构建块 API: |
- 技能 – 版本化、受控的能力
- 工具 – 外部实用程序
- 记忆 – 持久化状态
- 知识库 – 可搜索的事实
- 沙箱 – 隔离的执行环境 | 通常可用;具体功能随平台演进 | | 工具 | CLI、UI、CRDs、可观测性仪表板、安全与治理辅助工具。 | GA(UI、CLI) |
如何交互
- SDK – 代理与 RossoCortex 通信的语言绑定。
- 钩子 – 注入拦截的侧车容器或初始化脚本。
- 网关 – 代理流量的网络入口点,用于代理。
- 编排层 – Kubernetes Operator/CRD,用于管理整个栈。
典型工作流(快速入门)
- 前提条件 – Python ≥ 3.9(带
uv),Docker/Podman,本地 K8s 集群(kind/Rancher Desktop),以及用于本地 LLM 推理的 Ollama。 - 部署 – 克隆仓库,检出最新发布标签(如
v0.7.0),配置密钥,运行提供的setup-rossoctl.sh脚本,该脚本将安装 Helm 图表、可选 UI、SPIRE 身份提供者、沙箱运行时和构建流水线。 - 访问 UI – 脚本会打印服务 URL 和凭证;打开
http://rossoctl-ui.localtest.me:8080登录。 - 使用 UI – 导入 A2A 兼容代理,部署 MCP 工具,运行交互式聊天,查看追踪/网络可视化。
- 扩展 – 通过 自带代理 指南引入自己的代理(任何框架),或开发由 Rossoctl 管理的自定义技能/工具。
谁应考虑 Rossoctl?
- 企业:构建需要审计追踪、基于角色的访问和保证恢复的生产级 LLM 代理的企业。
- ML Ops 团队:希望以 Kubernetes 原生方式与传统工作负载并行运行代理的团队。
- 安全导向开发者:寻找可验证代理身份和策略驱动工具使用的开发者。
- 研究人员:在仍拥有沙箱测试环境的前提下,实验新型代理间(A2A)协议或模型上下文(MCP)集成的研究者。
文档与社区
- 完整文档 – https://rossoctl.dev/docs/(快速入门、概念、架构、安全、参考)。
- Slack 社区 – 通过 README 中的徽章加入。
- OpenSSF Scorecard – 显示项目供应链健康状况。
- 贡献指南 –
CONTRIBUTING.md说明如何提交 PR、运行 CI 和添加演示。
许可证
Apache 2.0 – 允许商业使用和修改的宽松开源许可证。
核心要点 – Rossoctl 为 AI 代理提供了缺失的“操作系统”层,使其获得与 Kubernetes 为容器化服务提供的相同生产保障,同时保持与框架无关,并基于开放标准(A2A、MCP)构建。
相关
- 项目
- 项目
- 项目
- 项目