openkruise/agents

해결하는 문제

OpenKruise Agents는 Kubernetes 내에서 AI 에이전트를 실행할 때의 인프라 문제를 단순화합니다. AI 에이전트가 필요로 하는 격리된 환경, 영구 작업 공간, 리소스 집약적 학습 작업을 관리하기 위한 표준화된 벤더 중립적 방법을 제공하여 AI 개발과 클라우드 네이티브 인프라 간의 격차를 메웁니다.

작동 방식

Kubernetes에서 AI 에이전트 샌드박스를 위한 관리 계층으로 작동합니다. 빠른 리소스 프로비저닝과 동적 크기 조정을 가능하게 하여 비용을 낮춥니다. 시스템은 샌드박스 하이버네이션 및 체크포인팅(메모리, 스토리지, GPU 메모리 상태까지 저장 가능)과 같은 고급 기능을 지원하며, 사용자 세션 관리 및 트래픽 라우팅을 처리하여 표준 Kubernetes 서비스에 대한 의존도를 줄입니다. 개발자는 Kubernetes CRD API 또는 E2B SDK를 사용하여 이러한 환경과 상호 작용할 수 있습니다.

대상 사용자

이 프로젝트는 AI 워크로드를 관리하는 인프라 엔지니어와 에이전트 도구, 연구 노트북 또는 학습 작업을 실행하기 위해 안정적이고 확장 가능하며 격리된 환경이 필요한 AI 알고리즘 과학자를 위해 설계되었습니다.

주요 기능

• AI 에이전트 도구 사용 및 개발을 위한 격리되고 안전한 샌드박스를 제공합니다.
• 상태 저장 하이버네이션을 지원하여 샌드박스가 메모리 및 GPU 상태를 저장하고 복원할 수 있습니다.
• E2B SDK 및 Kubernetes 네이티브 API와의 호환성을 포함한 유연한 API 지원을 제공합니다.
• 효율적인 리소스 풀링과 동적 확장을 가능하게 하여 인프라 비용을 최적화합니다.
• 강화 학습 및 빅데이터 학습과 같은 복잡한 워크로드를 빠른 시작 시간으로 지원합니다.