agentcontrol/agent-control

해결하는 문제

Agent Control은 AI 에이전트의 런타임 가드레일을 강제하기 위한 중앙 집중식 레이어를 제공합니다. 개발자가 에이전트의 핵심 코드나 프롬프트에 안전 로직을 하드코딩할 필요 없이, 프롬프트 인젝션, PII(개인식별정보) 유출, 위험한 도구 호출 등의 위험을 방지할 수 있습니다.

작동 방식

시스템은 서버와 SDK로 구성됩니다. 개발자는 모델 또는 도구 호출에 @control() 데코레이터를 감쌉니다. 런타임에 SDK는 입력과 출력을 Agent Control 서버로 전송하며, 구성 가능한 규칙(컨트롤)에 따라 평가합니다. 규칙 위반이 감지되면 시스템은 해당 작업을 차단하고 ControlViolationError를 발생시킵니다.

대상 사용자

LangChain, CrewAI, Google ADK, AWS Strands 등의 프레임워크를 사용해 AI 에이전트를 개발하는 개발자들을 위한 것입니다. 여러 에이전트에 걸쳐 안전 정책을 단일 대시보드 또는 API에서 관리하고 싶은 분들께 적합합니다.

주요 특징

• 중앙 집중적 관리: 에이전트 코드 재배포 없이 UI 또는 API를 통해 안전 컨트롤을 정의하고 업데이트할 수 있습니다.
• 플러그인 평가기: 정규표현식, 목록, JSON, SQL용 내장 평가기를 포함하며, 사용자 정의 평가기 지원 가능합니다.
• 프레임워크 독립성: 다양한 에이전트 프레임워크와 호환되며, Python 및 TypeScript SDK를 모두 지원합니다.
• 관측성: OpenTelemetry 및 사용자 정의 이벤트 싱크와 통합되어 컨트롤 실행을 추적할 수 있습니다.