Agent37 에이전트 샌드박스 인프라

Agent37 개요

Agent37은 AI 에이전트를 위한 저비용, 고밀도 샌드박스를 제공하도록 설계된 전문 인프라 플랫폼입니다. 컨테이너 격리를 위해 gVisor를 활용하고 기존 하이퍼스케일러 대신 Hetzner나 OVH와 같은 제공업체의 하드웨어를 사용하여 에이전트 루프 실행 비용을 절감하는 것을 목표로 합니다. 이 플랫폼은 메모리 효율성을 유지하면서 급격한 CPU 작업 부하를 처리할 수 있는 지속적이고 에이전트 친화적인 환경이 필요한 개발자를 대상으로 합니다.

기술 아키텍처 및 리소스 관리

Agent37 효율성의 핵심은 gVisor 사용에 있습니다. gVisor는 각 가상 머신에 전체 할당량을 예약하는 대신 호스트 메모리를 공유함으로써 메모리 오버커밋을 가능하게 합니다. 이러한 접근 방식은 에이전트 작업 부하가 종종 CPU는 급증하지만 메모리는 제한적이라는 일반적인 관찰에 대응합니다.

커뮤니티에서 제기한 주요 기술적 고려 사항은 다음과 같습니다:

• 메모리 밀도: 전체 VM 격리를 피함으로써 플랫폼은 호스트당 더 높은 밀도를 달성할 수 있습니다. 그러나 이는 "노이즈가 많은 이웃(noisy neighbors)"과 관련된 문제를 야기합니다. 사용자들은 시스템이 RAM 사용량 급증을 어떻게 처리하는지, 특히 호스트 충돌을 방지하기 위해 cgroup 구성, OOM(Out of Memory) 킬러 튜닝 또는 활성 마이그레이션 중 무엇에 의존하는지 질문했습니다.
• 지속성 및 스토리지: 이 플랫폼은 세션 간 지속적인 파일 시스템을 지원합니다. 낮은 비용을 유지하기 위해 아키텍처는 로컬 NVMe 스토리지의 성능과 네트워크 백업 요구 사항 간의 균형을 맞춰야 합니다.
• 콜드 스타트: 무료 또는 저비용 티어 사용자의 경우 콜드 스타트 지연 시간은 중요한 성능 지표입니다. 자동 절전 상태에서 샌드박스를 깨우는 플랫폼의 능력은 여러 단기 에이전트 작업을 연결하는 개발자에게 주요 요소입니다.

보안 및 에이전트 거버넌스

저비용 샌드박싱이 주요 가치 제안이지만, 커뮤니티 피드백은 호스트 수준의 격리가 보안 방정식의 일부일 뿐임을 강조합니다. 업계 전문가들은 에이전트에 대한 가장 중요한 위험은 샌드박스 탈출보다는 자격 증명 관리 및 권한 부여와 관련이 있다고 지적합니다.

커뮤니티에서 확인한 개선이 필요한 주요 영역은 다음과 같습니다:

• 자격 증명 범위 지정(Credential Scoping): 작업별로 범위가 지정된 단기 자격 증명을 제공하여 에이전트가 광범위한 OAuth 권한이나 민감한 환경 비밀에 액세스하지 못하도록 하는 브로커 계층에 대한 강력한 수요가 있습니다.
• 송신 제어(Egress Control): 개발자는 게스트 환경에서 수정할 수 없는 세분화된 샌드박스별 송신 허용 목록이 필요하며, 이를 통해 에이전트가 승인된 엔드포인트와만 통신하도록 보장합니다.
• 환경 위생: 실행 사이에 샌드박스가 깨끗하게 유지되도록 보장하는 것(상속된 비밀이나 오래된 환경 변수가 없는 상태)은 안정적인 에이전트 성능을 위해 매우 중요합니다.

시장 포지셔닝 및 경쟁 환경

Agent37은 빠르게 진화하고 점점 상품화되는 시장에서 운영됩니다. 비평가들은 자금이 풍부한 하이퍼스케일러나 기존 샌드박스 제공업체와 가격만으로 경쟁하는 것은 어려울 수 있다고 주장합니다. 대형 업체들은 더 높은 마진의 서비스 채택을 유도하기 위해 인프라를 손해 보고 판매할 여력이 있기 때문입니다.

"모두가 가격을 비교하는 호스트 격리는 어려운 문제가 아닙니다. 실제로 피해를 주는 대부분의 에이전트 실패는 샌드박스 탈출이 아닙니다. 그것은 에이전트가 거친 OAuth 권한을 가진 당신처럼 행동하거나 환경에 놓여 있는 비밀을 읽는 것입니다. 저는 2배 더 저렴한 샌드박스보다 그 브로커 계층에 더 많은 비용을 지불할 것입니다." — @ekorondy

장기적인 가치를 포착하기 위해 인프라 제공업체는 에이전트가 수행하는 실제 작업에 더 가까이 다가가야 한다는 것이 중론입니다. 여기에는 Google의 AI 및 서비스 API와 같은 복잡한 통합을 단순화하고, 단순히 기본 컴퓨팅을 제공하는 대신 에이전트의 수명 주기, 예산 및 보안 정책을 관리하는 더 높은 수준의 추상화를 제공하는 것이 포함됩니다.