Cloudflare AI 에이전트 아키텍처와 오픈 소스의 미래

효율적인 AI 에이전트 아키텍처 구축

Cloudflare는 상태 저장 서버리스 프로그래밍과 동적 코드 실행을 활용해 클라우드 관리형 에이전트 플랫폼에 대한 경쟁력 있는 대안을 만들고 있습니다. 목표는 단순 CRUD API를 넘어 보다 유연한 에이전시 소프트웨어 아키텍처로 나아가는 것입니다.

핵심 인프라 원시 요소

Sunil Pai는 모든 인프라 플랫폼에서 표준이 될 것으로 보는 두 가지 핵심 원시 요소를 제시합니다:

• Durable Objects: 상태 저장 서버리스 프로그래밍을 제공하며, 사용자 영역이 아니라 인프라 레이어에서 직접 액터 모델을 구현합니다. 이를 통해 전체 가상 머신을 띄우지 않고도 백그라운드에서 서버리스 특성을 가진 수백만 개의 상태 저장 엔티티를 생성할 수 있습니다.
• Dynamic Workers: 이 기술은 사용자 생성 또는 LLM 생성 코드를 시작 시간 없이 안전하게 실행할 수 있게 합니다. 보안을 위해 Cloudflare는 기본적으로 모든 외부 트래픽을 차단하고, 환경에 노출되는 API를 특정하고 제어된 것만 허용할 것을 권장합니다.

코드 실행을 통한 툴 호출 개선

전통적인 툴 호출은 방대한 API 표면을 다룰 때 종종 실패합니다. 예를 들어 Cloudflare API에는 2,600개의 엔드포인트가 있는데, 각각을 별도 툴로 노출하면 비효율적입니다.

대신 Cloudflare는 "검색 및 실행" 패턴을 사용합니다. 사용자는 JavaScript 코드를 격리된 환경에 제출하고, 이 환경이 OpenAPI JSON을 검색한 뒤 필요한 작업을 실행합니다. 이를 통해 특정 문자로 시작하는 워커에 DDoS 방어를 적용하는 등 복잡한 작업을 여러 번의 LLM 상호작용 없이 단일 툴 호출로 완료할 수 있습니다.

표준 에이전트 하네스 탐색

현재 업계에는 AI 에이전트를 구축하기 위한 표준화된 크로스 플랫폼 아키텍처가 없습니다. Pai는 이 시기를 React 이전 시기와 비교하며, 많은 기업이 자체 "하네스"(지능 레이어와 분리된 실행 환경)를 만들고 있지만 언어와 인프라 전반에 걸친 통합되고 재현 가능한 표준은 아직 등장하지 않았다고 지적합니다.

오픈 소스 문화와 포크의 역할

"Slop Forks"의 가치

코드 포크는 소프트웨어 문화에서 명예와 존경의 표시로 설명됩니다. Pai는 포크가 오픈 소스 성장의 근본이며 개발자에게 전략적 이점을 제공한다고 주장합니다. 의존성을 포크하면 개발자는 사실상 해당 코드를 "소유"하게 되어, 상위 변경이나 취약점(예: Axios 이슈)으로 인한 위험을 회피할 수 있습니다.

현대 저장소의 적대적 특성

포크의 장점에도 불구하고 오픈 소스 저장소를 유지하는 환경은 점점 더 적대적으로 변하고 있습니다. Pai는 많은 유지보수자가 인기를 얻는 것을 꺼려하게 된 이유를 다음과 같이 꼽습니다:

• 가짜 보안 보고: 유지보수자를 괴롭히거나 방해하려는 매우 현실적이지만 무효한 보안 보고가 난무합니다.
• 공급망 공격: 인기 있는 저장소(예: Open Claw)를 공격해 광범위한 사용자 기반에 원격 코드 실행을 퍼뜨릴 위험이 있습니다.

이러한 도전 때문에 Agents SDK와 같은 일부 프로젝트는 기여를 이슈에만 제한하고, LLM을 활용해 유지보수자가 이슈를 처리하고 해결하도록 돕고 있습니다.

소프트웨어 개발에서 독창성 촉구

Pai는 개발자들이 기존 도구의 점진적 개선이나 기업 계약을 쫓는 대신, "SF 같은 것"을 구축하라고 권장합니다. 즉, 현재 인프라와 LLM의 한계를 뛰어넘는 독창적이고 대담한 프로젝트를 통해 기술의 다음 큰 변화를 이끌어야 한다는 것입니다.