securetron-gh/aifw

해결하는 문제

AI-FW는 AI 에이전트가 언어 모델과 통신할 때 보안, 거버넌스, 감사 가능성에 대한 요구를 해결합니다. 이것이 없으면 조직은 어떤 프롬프트가 전송되고, 어떤 응답이 반환되며, 정책이 적용되는지에 대한 가시성이 거의 없습니다. AI-FW는 중간에 게이트를 배치하여 모든 프롬프트와 응답을 확인, 거버넌스, 로깅할 수 있게 하고, 검사가 비정상일 때 페일 클로즈드되어 트래픽이 흐르지 않습니다. 또한 증명 가능한 에이전트 ID와 규제 기관과 공유할 수 있는 감사 추적을 추가합니다.

작동 방식

게이트웨이는 클라이언트(에이전트, SDK, 도구)와 LLM 백엔드 사이에 위치합니다. 모든 트래픽은 세 단계를 거칩니다: 검사(프롬프트 스캔, PII 마스킹, 의미적 의도 점수화), 거버넌스(규칙, 위험 프로필, 정책을 적용하여 허용 여부 결정), 라우팅(레지스트리와 복원력 로직을 사용하여 올바른 모델 백엔드로 전송). 응답이 반환되고 감사 단계에서 발생한 이벤트의 메타데이터 전용 로그를 기록합니다. 게이트웨이는 OpenAI 호환 및 Anthropic 엔드포인트를 지원하며 Claude 추론 훅, Cursor Agent Hooks, MCP 도구 거버넌스, Microsoft 365 Copilot 관리와 통합됩니다. Docker Compose로 시작하면 게이트웨이와 PostgreSQL 데이터베이스가 실행되고 호환 가능한 클라이언트를 게이트웨이 URL에 연결할 수 있습니다.

대상 사용자

AI 에이전트 또는 코파일럿을 실행하고 엔터프라이즈급 보안, 규정 준수, 비용 관리가 필요한 조직. 여기에는 Claude Code, Cursor, MCP 도구, Microsoft 365 Copilot 또는 OpenAI 호환 애플리케이션을 사용하는 팀이 포함됩니다. 토큰당 요금 없이 완전한 제어를 원하는 자체 호스팅 사용자와 ISO 27001 또는 SOC2 요구 사항을 충족해야 하는 사용자에게 적합합니다.

주요 기능

• 페일 클로즈드 설계: 검사가 비정상인 동안 트래픽이 흐르지 않으며 오프라인 가드레일은 제3자에게 위임하지 않습니다.
• 에이전트는 A2A 프로토콜, 에이전트 레지스트리, mTLS, Kerberos, OIDC SSO, SCIM 프로비저닝을 갖춘 ID로 취급됩니다.
• 의미적 게이트 프롬프트 압축 및 검사 게이트 완료 캐싱을 통한 비용 절감.
• 규제 기관 준비 감사: 메타데이터 전용 트랜잭션 로그, TLS를 통한 syslog로 SIEM에 암호화 내보내기.
• 심층 통합: Claude 추론 훅, Cursor Agent Hooks, MCP 도구 거버넌스, 에이전트 동기화가 있는 M365 Copilot 관리.
• 선택적 엔드포인트 게이트웨이: 이미지, 오디오, 파일, 파인튜닝, 배치를 동일한 검사 파이프라인에서 처리.
• 200개 이상의 모델 및 엔드포인트 지원: OpenAI, Anthropic, Google, Meta, xAI, DeepSeek, Mistral, Groq, Azure, AWS, Alibaba, Ollama 등.
• 자체 호스팅, 토큰당 요금 없음. 엔터프라이즈 기능에는 역할 기반 액세스 제어, OIDC SSO, SCIM, 암호화된 감사 내보내기가 포함됩니다.