pydantic/monty

해결하는 문제

Monty는 AI 모델이 생성한 Python 코드를 안전하고 효율적으로 실행하기 위한 고성능 및 보안이 강화된 사전 환경을 제공합니다. 일반적으로 시작 및 명령 실행 시 큰 지연을 유발하는 무거운 컨테이너, 가상 머신, 또는 외부 사전 환경 서비스의 필요성을 제거합니다.

작동 방식

Rust로 작성된 Monty는 VM 형태의 Python 인터프리터로, 메모리, 시간, 재귀 제한을 VM 내부에서 직접 강제합니다. 파일 시스템, 환경 변수, 네트워크에 대한 접근은 기본적으로 불가능합니다. 사전 환경은 특별히 제공된 함수와 마운트를 통해 호스트 시스템과만 상호작용하며, AI가 생성한 코드가 승인되지 않은 호스트 리소스에 접근하는 것을 방지합니다.

대상 사용자

스케일링하여 안전하고 효율적으로 AI가 생성한 Python 코드를 실행할 수 있는 AI 에이전트나 애플리케이션을 개발하는 개발자들입니다.

주요 특징

• 초저지연: Docker나 사전 환경 서비스와 비교해 약 5ms 내에 시작 및 명령 실행이 가능하며, 수백~수천 밀리초가 소요되는 대안들과 대비됩니다.
• 상태 지속성: 일시 중지된 인터프리터는 바이트로 직렬화하여 나중에 다시 시작할 수 있습니다.
• 다중 언어 지원: Python, JavaScript/TypeScript, Rust용 공식 바인딩을 제공합니다.
• 엄격한 격리: 사전 환경 내에서는 파일 시스템, 네트워크, 환경 변수에 대한 네이티브 접근이 불가능합니다.