SJTU-IPADS/SkVM

何を解決するか

SkVMは、LLMエージェントの「スキルのポータビリティ（移植性）」という課題に対処します。異なるLLMやエージェント・ハーネス（エージェントを実行するソフトウェア環境）は、それぞれ異なる能力や制約を持っているため、あるモデル向けに設計されたスキルが、別のモデルでは効率的に動作しなかったり、全く動作しなかったりすることがあります。SkVMは、これらのスキルをコンパイルおよび最適化し、異種混合のモデルや環境間で確実に実行できるシステムを提供します。

仕組み

SkVMは、4つのパートからなるパイプラインを使用して、コンパイルおよびランタイムシステムとして動作します。

1. Profiling: 特定のモデルとハーネスの組み合わせを、一連のプリミティブな能力に対して測定し、能力プロファイルを作成します。
2. AOT-Compilation: Ahead-of-Timeコンパイラが、ターゲットモデルのプロファイルに合わせてスキルを書き換えます。
3. JIT-Optimization: Just-in-Timeオプティマイザが、スキルの内容と実行速度を向上させます。これは、合成タスク（edit、rerun、scoreのループ）を使用するか、既存の会話ログを分析して問題を診断・修正することで行われます。
4. Benchmark: オリジナル、コンパイル済み、および最適化済みのスキルのパフォーマンスを、さまざまなタスクとモデルにわたって評価します。

対象者

エージェントのスキルを、異なるモデルプロバイダー（例：Anthropic、OpenRouter）や異なるエージェント・ハーネス（例：OpenClaw、Hermes）間で移植可能にする必要がある、LLMエージェントを構築する開発者や研究者向けに設計されています。

ハイライト

• Cross-Model Portability: 特定のターゲットモデルやハーネス向けにスキルをコンパイルすることを可能にします。
• Coded Optimization: 内部のコーディングエージェントを使用して、実行結果に基づいてスキルを自動的に洗練させます。
• Flexible Configuration: 「managed」（新しいサンドボックス）と「native」（既存のユーザー設定を複製）の両方のアダプターモードをサポートしています。
• Integrated Toolchain: プロファイリング、コンパイル、および最適化のためのCLI、および提案内容を確認するためのWeb UIが含まれています。