pydantic/monty

A minimal, secure Python interpreter written in Rust for use by AI

解決的問題

Monty 提供了一個高效率且安全的沙箱環境,用於執行 AI 模型生成的 Python 程式碼。它消除了對重型容器、虛擬機或外部沙箱服務的需求,這些服務通常在啟動和執行命令時引入顯著的延遲。

工作原理

Monty 使用 Rust 寫成,是一個 Python 解釋器虛擬機,直接在虛擬機內部強制執行記憶體、時間和遞迴限制。它建立了一個完整的隔離層,檔案系統、環境變數和網路預設情況下均不可用。沙箱僅透過特定提供的函數和掛載與主機系統互動,確保 AI 生成的程式碼無法存取未授權的主機資源。

適用對象

需要大規模安全高效地執行 AI 生成的 Python 程式碼的 AI 代理或應用程式開發者。

主要亮點

  • 超低延遲:啟動和執行命令僅需約 5ms,相比 Docker 或沙箱服務的數百或數千毫秒顯著更快。
  • 狀態持久化:暫停的解釋器可序列化為位元組並稍後恢復。
  • 多語言支援:提供 Python、JavaScript/TypeScript 和 Rust 的官方綁定。
  • 嚴格隔離:沙箱內無法直接存取檔案系統、網路或環境變數。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案