sgasser/pasteguard

PasteGuard – AI 요청을 위한 로컬 개인정보 보호 프록시

기능

• 로컬 HTTP 프록시(Docker 이미지)로 실행되며 애플리케이션(또는 브라우저)과 모든 LLM 제공업체(OpenAI, Anthropic, Gemini 등) 사이에 위치합니다.
• 요청이 제공업체에 도달하기 전에 서비스는 페이로드에서 개인 식별 정보(PII)와 비밀(API 키, 토큰, 비밀번호 등)을 스캔하여 무해한 자리 표시자로 대체합니다.
• 제공업체가 응답을 반환하면 자리 표시자가 복원되어 원래 데이터를 확인할 수 있습니다.
• 두 가지 작동 모드가 있습니다:
  1. 마스크 모드 – 클라우드 모델로 보내기 전에 항상 민감한 데이터를 마스킹합니다.
  2. 라우트 모드 – 민감한 데이터가 포함된 요청을 로컬 LLM(Ollama, vLLM, llama.cpp)으로 라우팅하고, 비민감 요청은 클라우드로 보낼 수 있습니다.

중요한 이유

• 클라이언트 데이터, 로그 또는 자격 증명을 보호해야 하는 기업은 원시 개인 정보를 노출하지 않고도 강력한 호스팅 LLM을 활용할 수 있습니다.
• 모든 앱 코드를 다시 작성하지 않고도 규정 준수(GDPR, HIPAA 등)를 위한 단일 제어 지점을 제공합니다.

사용 방법

1. 프록시 실행

   docker run --rm -p 3000:3000 ghcr.io/sgasser/pasteguard:latest
   

   (버전 0.9.3에서 SIGSEGV가 발생하면 -e ORT_DISABLE_TELEMETRY=1을 추가하세요.)
2. 클라이언트를 프록시로 지정 – 예: OpenAI의 경우:

   from openai import OpenAI
   client = OpenAI(base_url="http://localhost:3000/openai/v1")
   

   동일한 패턴이 Anthropic, Codex 등에서도 작동합니다.
3. 선택 사항: 브라우저 확장 프로그램 – 웹 UI에서 입력된 데이터를 마스킹하는 ChatGPT, Claude, Gemini용 실험적 애드온입니다.
4. 대시보드 – http://localhost:3000을 방문하여 각 요청, 마스킹된 내용, 감사 로그를 확인하세요.

감지 기술

• GLiNER(경량 NER 모델)를 형식 기반 검사 및 python-stdnum 라이브러리와 함께 사용하여 이름, 이메일, 전화번호, 신용카드 번호, IBAN, IP, VAT 번호, 다양한 API 키 및 개인 키를 인식합니다.
• 스트리밍 페이로드에서 작동하므로 실시간 채팅 완성도 보호됩니다.

기술 스택

• 런타임: Bun(JavaScript/TypeScript 런타임) 및 Hono 웹 프레임워크.
• 감지 백엔드: GLiNER + python-stdnum(detector/ 폴더에 있음).
• 지속성: SQLite 또는 PostgreSQL을 사용한 요청 로그.

사용자

• 고객 데이터 개인정보를 유지해야 하는 내부 AI 지원 도구(지원 봇, 코드 어시스턴트, 데이터 분석 도우미)를 구축하는 개발 팀.
• 엄격한 데이터 개인정보 정책을 가진 기업이 호스팅 LLM API를 활용하고자 하는 경우.
• AI 서비스로 보내기 전에 비밀을 마스킹할 수 있는 빠르고 자체 호스팅 방법을 찾는 모든 사람.

추가 정보

• 전체 문서: https://pasteguard.com/docs
• 설치 가이드, 사용자 지정 GLiNER 모델 구성, 라우트 모드 세부 정보는 README에 링크되어 있습니다.

---

PasteGuard는 AI 워크로드를 위한 개인정보 우선 게이트웨이를 제공하는 오픈 소스 Apache-2.0 프로젝트입니다.