sgasser/pasteguard

PasteGuard – AI请求的本地隐私代理

功能

• 作为本地HTTP代理（Docker镜像）运行，位于您的应用程序（或浏览器）与任何LLM提供商（OpenAI、Anthropic、Gemini等）之间。
• 在请求到达提供商之前，服务会扫描有效载荷以查找个人身份信息（PII）和秘密（API密钥、令牌、密码等），并用无害的占位符替换它们。
• 当提供商返回响应时，占位符被恢复，因此您可以在自己的一侧看到原始数据。
• 两种操作模式：
  1. 掩码模式 – 在发送到云模型之前始终对敏感数据进行脱敏。
  2. 路由模式 – 将包含敏感数据的请求路由到本地LLM（Ollama、vLLM、llama.cpp），而非敏感请求仍可发送到云端。

为什么重要

• 必须保护客户端数据、日志或凭据的公司仍然可以利用强大的托管LLM，而不会暴露原始私人信息。
• 为合规性（GDPR、HIPAA等）提供单一控制点，而无需重写每个应用程序的代码。

如何使用

1. 运行代理

   docker run --rm -p 3000:3000 ghcr.io/sgasser/pasteguard:latest
   

   （如果在0.9.3版本中遇到SIGSEGV，请添加-e ORT_DISABLE_TELEMETRY=1。）
2. 将客户端指向代理 – 例如，对于OpenAI：

   from openai import OpenAI
   client = OpenAI(base_url="http://localhost:3000/openai/v1")
   

   相同的模式适用于Anthropic、Codex等。
3. 可选：浏览器扩展 – 用于ChatGPT、Claude和Gemini的实验性插件，可在Web UI中掩码输入的数据。
4. 仪表板 – 访问http://localhost:3000查看每个请求、掩码的内容以及审计日志。

检测技术

• 使用GLiNER（轻量级NER模型）以及基于格式的检查和python-stdnum库，识别姓名、电子邮件、电话号码、信用卡号、IBAN、IP、增值税号以及各种API密钥和私钥。
• 支持流式传输有效载荷，因此即使是实时聊天补全也受到保护。

技术栈

• 运行时：Bun（JavaScript/TypeScript运行时）和Hono Web框架。
• 检测后端：GLiNER + python-stdnum（位于detector/文件夹中）。
• 持久化：使用SQLite或PostgreSQL记录请求日志。

谁可能使用它

• 构建内部AI辅助工具（支持机器人、代码助手、数据分析助手）的开发团队，需要保持客户数据私密。
• 具有严格数据隐私政策但希望利用托管LLM API的企业。
• 任何想要一种快速、自托管的方法在发送到AI服务之前脱敏秘密的人。

更多信息

• 完整文档：https://pasteguard.com/docs
• 安装指南、自定义GLiNER模型配置和路由模式详细信息已在README中链接。

---

PasteGuard是一个开源Apache-2.0项目，为AI工作负载提供隐私优先的网关。