
aiproxy 推出本地 PII 脱敏反向代理,转发大模型前先匿名化
来源标题:Show HN: Aiproxy – Redact PII locally before it reaches Claude/OpenAI
aiproxy 是一个面向 LLM API 的匿名化反向代理,在请求发往 Anthropic 之前用本地模型清洗人名、公司名等敏感信息,并在回复中还原原文。它支持文本、图片和 PDF,原始数据与替换 token 保存在本地加密存储中,且可接入自定义过滤器或组织级共享部署。项目免费开源,作者提示使用风险自负、不提供担保。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
aiproxy 免费且数据始终留在你的机器上。如果它帮你避免了把 PII 泄露给 LLM 提供商,请我喝杯咖啡 ☕ —— 这将资助我继续维护这个项目的时间。
面向 LLM API 的匿名化反向代理。将 Claude Code(或任何 AI 工具)指向 aiproxy;它会在转发给 Anthropic 之前,用本地 LLM 清除人名/公司名及其他敏感内容,然后在回复中还原原始内容。可插拔的过滤器/处理器接口。支持文本、图片、PDF。
AI 工具 ──▶ aiproxy ──(已脱敏)──▶ Anthropic ▲ │ │ └─(已还原)─┴───────(tokens)────────┘
可逆匿名化:原始内容 ↔ token 保存在本地加密存储中。统一的 Processor 接口——可插入你自己的过滤器(或经过审核的插件)。自带:secrets_regex、anonymizer(本地 LLM NER)、image_redactor、logger。/dryrun 端点可在信任之前预览脱敏效果。可扩展为组织共享服务:按用户身份 + 隔离、自助术语列表(/terms)、SQLite 或 Postgres 存储、配置热重载(SIGHUP)、从 secrets manager 获取密钥、/readyz。参见 docs/ORG_DEPLOYMENT.md。
完整安装 + 使用:docs/MANUAL.md。
⚠️ 使用风险自负——不提供任何担保。aiproxy 按原样提供,不附带任何形式的保证(参见 LICENSE 中的 No Liability 条款)。检测并非万无一失:本地 LLM 可能漏掉某个实体,因此真实值仍可能到达上游提供商。你有责任针对自己的数据验证脱敏效果,并履行你对所处理数据相关人员的任何义务。请在 fail_closed 模式下运行,用 /dryrun 验证,并将映射存储视为机密。参见威胁模型。
流水线在出口处脱敏,在入口处还原;上游 API 始终只能看到 token。两个方向共享加密存储和本地 NER 模型。
flowchart LR C["AI client"] --> I["Ingress · identity<br/>resolve user_id<br/>session = user/raw"] I --> P subgraph P["Pipeline"] direction TB L["logger"] --> S["secrets_regex"] --> A["anonymizer · NER → ⟦TOKEN⟧"] --> IR["image_redactor"] end P -- "redacted + tokens" --> U["Upstream LLM<br/>(sees tokens only)"] U -- "tokens" --> P P -- "originals restored" --> C A <-- "detect" --> N["Local NER (Ollama)"] P <-- "put / token_for · cache · terms" --> ST[("Store · encrypted<br/>sqlite | postgres")] K["Key source<br/>env | file | command"] -. "at-rest key" .-> ST Loading
扩展到组织共享服务时,它在负载均衡器后面运行无状态前端,共享 Postgres 存储和 NER 服务——架构图和设计参见 docs/MANUAL.md#1b-architecture 和 docs/ORG_DEPLOYMENT.md。
首先获取代码(需要 git 和 Python ≥ 3.11):
git clone https://github.com/cucooOnGithub/aiproxy.git aiproxy cd aiproxy
然后选择一种部署形态。每种形态的完整细节都在手册中:单工作站 · 组织。
一个人,一台机器;本地 SQLite 存储和本地 NER 模型。默认 NER 模型是 qwen2.5:3b-instruct(约 2 GB)。OCR 在 CPU 上运行。
一键安装——设置 venv + 依赖、Ollama(并启动它)、Tesseract、NER 模型、存储密钥和 config.yaml:
./install.sh # macOS / Linux powershell -ExecutionPolicy Bypass -File .\install.ps1 # Windows
然后验证并运行:
python -m aiproxy doctor --config config.yaml # 检查一切是否就绪 python -m aiproxy serve --config config.yaml export ANTHROPIC_BASE_URL=http://127.0.0.1:8080 # 与 listen.port 匹配
已经跑起来了?如果 aiproxy 现在正在保护你的数据隐私,考虑请我喝杯咖啡 ☕ 来支持它。
python -m venv .venv && source .venv/bin/activate pip install -e ".[media]" # 核心;需要 tesseract 二进制 ollama pull qwen2.5:3b-instruct cp config.example.yaml config.yaml export AIPROXY_STORE_KEY="$(python -m aiproxy genkey)" # 如果 store.encrypt: true python -m aiproxy serve --config config.yaml
构建独立二进制文件(可选)
./build.sh # -> dist/aiproxy (macOS/Linux) powershell -ExecutionPolicy Bypass -File .\build.ps1 # -> dist\aiproxy.exe (Windows) ./dist/aiproxy serve --config config.yaml
PyInstaller 无法交叉编译——需在每个目标操作系统上分别构建。Tesseract 和 Ollama 不打包在内。详情参见 docs/MANUAL.md。
一个服务支持多个用户:由 IT/安全部门集中管理配置、按用户隔离、SQLite 或 Postgres、负载均衡器后面的无状态前端。完整部署和配置参见 docs/ORG_DEPLOYMENT.md 和手册。
在组织规模上改进本地 LLM。在工作站上,NER 模型保持较小以便每次请求快速加载;共享部署则没有这个限制,可以运行准确得多的模型:
开发者:docs/DEVELOPING.md 解释了架构、Document/Processor/Store 抽象、如何进行常见修改、SemVer/标签发布流程,以及 PR 工作流和检查清单。
想在不改动核心的情况下发布自定义脱敏过滤器?见 docs/WRITING_A_PROCESSOR.md。
不会写代码?你仍然可以通过请我喝杯咖啡 ☕ 或分享这个项目来大力帮助项目。
可用,97 个测试通过。除下面的本地 echo 往返测试外,尚未针对实时提供商进行冒烟测试。
aiproxy/proxy/ 服务器、提供商适配器(Anthropic/OpenAI)、SSE 流式传输 aiproxy/pipeline/ Processor 接口 + 运行器 + 注册表 aiproxy/processors/ anonymizer、secrets_regex、image_redactor、logger aiproxy/store/ sqlite 存储(映射 + 脱敏缓存)+ 静态加密 aiproxy/llm/ Ollama NER 客户端、MultiNER 集成、build_ner aiproxy/config/ YAML 加载器(+ AIPROXY_UPSTREAM_* 环境变量覆盖) docs/MANUAL.md 安装 + 使用 + 扩展
为什么使用它
对托管 LLM 提供商隐藏机密数据(客户 PII、客户/NDA 名称、密钥、IP),同时仍能使用 AI 工具。业务和合规理由(GDPR/最小化、假名化、诚实的局限性):参见 docs/BUSINESS_JUSTIFICATION.md。
aiproxy 由一个人以开源方式免费构建和维护。背后没有公司,也没有遥测——你的数据永远不会离开你的机器,因此项目无法从使用中获利。如果它对你或你的团队有用,请考虑支持一下:
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。