plano: 에이전트 오케스트레이션 및 가시성을 위한 AI‑네이티브 프록시 서버와 데이터 플레인

해결하는 문제

Plano는 에이전트 AI 애플리케이션을 데모 단계에서 프로덕션 단계로 옮길 때 발생하는 “숨겨진 미들웨어” 부담을 해소합니다. 개발자가 의도 분류기, 라우팅 로직, 공급자별 API 어댑터, 그리고 여러 에이전트에 걸친 가시성 계측과 같은 반복적인 플러밍 작업을 직접 구축할 필요가 없게 됩니다.

작동 방식

Plano는 Envoy 위에 구축된 AI‑네이티브 프록시 서버이자 데이터 플레인으로 동작합니다. 오케스트레이션과 전달에 관한 고민을 애플리케이션 코드와 분리하여 프로세스 외 레이어로 옮깁니다. 개발자는 YAML 설정 파일에 에이전트와 모델 공급자를 정의하고, Plano는 에이전트 간 저지연 라우팅을 처리하고, LLM 공급자별 특성을 관리하며, OpenTelemetry 트레이스와 메트릭을 자동으로 수집합니다.

대상 사용자

특정 AI 프레임워크나 언어에 얽매이지 않고 프로덕션 수준의 인프라를 배포하고자 하는 멀티‑에이전트 시스템 개발자.

주요 특징

• 선언적 오케스트레이션: YAML에 자연어 설명을 넣어 요청을 올바른 에이전트로 라우팅하고, 맞춤 라우팅 코드를 작성할 필요가 없습니다.
• 모델 민첩성: 모델 이름, 별칭 또는 자동 선호도에 따라 라우팅할 수 있는 통합 LLM API.
• 코드 없이 가시성: 수동 계측 없이 에이전트 신호와 OTEL 트레이스/메트릭을 자동으로 엔드‑투‑엔드 캡처.
• 필터 체인: 에이전트 전반에 걸쳐 가드레일, 모더레이션 정책, 메모리 훅을 일관되게 추가할 수 있는 내장 지원.

SUMMARY: AI‑네이티브 프록시 서버와 데이터 플레인으로, 에이전트 오케스트레이션, LLM 라우팅, 가시성을 중앙 집중화하여 프로덕션 에이전트 애플리케이션 배포를 단순화합니다.

TITLE: plano: 에이전트 오케스트레이션 및 가시성을 위한 AI‑네이티브 프록시 서버와 데이터 플레인