SJTU-IPADS/SkVM

The Language Virtual Machine for Agent Skills

解决的问题

SkVM 解决了 LLM 智能体的“技能可移植性”问题。由于不同的 LLM 和智能体框架(运行智能体的软件环境)具有不同的能力和约束,为某一模型设计的技能可能无法在另一模型上高效运行,甚至完全无法运行。SkVM 提供了一个系统来编译和优化这些技能,使其能够在异构的模型和环境中可靠运行。

工作原理

SkVM 作为编译和运行时系统运行,采用四部分流水线:

  1. 性能分析 (Profiling):针对一组基础能力对特定模型和框架组合进行测量,以创建能力配置文件。
  2. AOT 编译 (AOT-Compilation):提前编译器重写技能,使其与目标模型的配置文件相匹配。
  3. JIT 优化 (JIT-Optimization):即时优化器提升技能的内容和运行速度。这可以通过合成任务(循环执行编辑、重新运行和评分)或通过分析现有对话日志来诊断和修复问题来实现。
  4. 基准测试 (Benchmark):评估原始、编译后和优化后的技能在各种任务和模型上的性能。

适用人群

它专为构建 LLM 智能体的开发者和研究人员而设计,他们需要其智能体的技能能够在不同的模型提供商(例如 Anthropic、OpenRouter)和不同的智能体框架(例如 OpenClaw、Hermes)之间移植。

核心亮点

  • 跨模型可移植性:支持将技能编译为适用于特定目标模型和框架的版本。
  • 代码化优化:使用内部编码智能体根据执行结果自动优化技能。
  • 灵活配置:支持“托管”(全新沙箱)和“原生”(克隆现有用户配置)两种适配器模式。
  • 集成工具链:包含用于性能分析、编译和优化的 CLI,以及用于审查提案的 Web UI。

相关

  • 项目
  • 项目
  • 项目
  • 项目