SJTU-IPADS/SkVM

무엇을 해결하는가

SkVM은 LLM 에이전트의 "skill portability" 문제를 해결합니다. 서로 다른 LLM과 에이전트 하네스(에이전트를 실행하는 소프트웨어 환경)는 서로 다른 능력과 제약 사항을 가지고 있기 때문에, 한 모델을 위해 설계된 기술(skill)이 다른 모델에서는 효율적으로 작동하지 않거나 전혀 작동하지 않을 수 있습니다. SkVM은 이러한 기술들을 컴파일하고 최적화하여 이기종 모델과 환경 전반에서 안정적으로 실행될 수 있도록 하는 시스템을 제공합니다.

작동 방식

SkVM은 네 가지 단계의 파이프라인을 사용하는 컴파일 및 런타임 시스템으로 작동합니다:

1. Profiling: 특정 모델과 하네스 조합을 일련의 기본 능력 세트에 대해 측정하여 능력 프로필(capability profile)을 생성합니다.
2. AOT-Compilation: Ahead-of-Time 컴파일러가 대상 모델의 프로필에 맞게 기술을 재작성합니다.
3. JIT-Optimization: Just-in-Time 최적화 도구가 기술의 내용과 런타임 속도를 개선합니다. 이는 합성 작업(edit, rerun, score를 반복)을 사용하거나 기존 대화 로그를 분석하여 문제를 진단하고 수정함으로써 수행될 수 있습니다.
4. Benchmark: 다양한 작업과 모델에 걸쳐 원본, 컴파일된, 그리고 최적화된 기술의 성능을 평가합니다.

대상 사용자

이 시스템은 에이전트의 기술이 다양한 모델 제공업체(예: Anthropic, OpenRouter) 및 다양한 에이전트 하네스(예: OpenClaw, Hermes) 전반에서 이식 가능하기를 원하는 LLM 에이전트 개발자 및 연구자를 위해 설계되었습니다.

주요 특징

• Cross-Model Portability: 특정 대상 모델과 하네스에 맞춰 기술을 컴파일할 수 있게 합니다.
• Coded Optimization: 내부 코딩 에이전트를 사용하여 실행 결과에 따라 기술을 자동으로 개선합니다.
• Flexible Configuration: "managed" (새로운 샌드박스) 및 "native" (기존 사용자 설정을 복제) 어댑터 모드를 모두 지원합니다.
• Integrated Toolchain: 프로파일링, 컴파일, 최적화를 위한 CLI와 제안 사항을 검토하기 위한 웹 UI를 포함합니다.