返回资讯中心
外部精选
软件工程
#开发者实时流

AgentLeak 开源多智能体 LLM 系统隐私测试工具

来源标题:Show HN: AgentLeak – open-source privacy testing for multi-agent LLM systems

AgentLeak 发布开源隐私测试工具,用于检测多智能体 LLM 系统内部通道的隐私泄漏,配套论文已被 IEEE Access 2026 收录。工具提供 Python SDK、CLI、本地 Web UI 和 CI 检查,覆盖工具调用、共享内存、智能体间消息、日志、生成文件及最终输出等泄漏渠道。核心追踪分析在本地运行,不依赖 LLM,可选实时智能体运行使用用户配置的端点。

Hacker News 最新yagobski2026/11/13 · 5 天前12 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

多智能体 LLM 系统隐私泄露基准测试。 本仓库配套 IEEE Access 论文:AgentLeak: A Benchmark for Internal-Channel Privacy Leakage in Multi-Agent LLM Systems。 预印本 (v3):https://arxiv.org/abs/2602.11510v3 IEEE Access (2026):https://doi.org/10.1109/ACCESS.2026.3704541 可安装的隐私测试工具见 yagobski/agentleak 和 agentleak.org。 该实用工具提供 Python SDK、CLI、本地 Web UI 和 CI 检查,用于检测通过工具调用、共享内存、智能体间消息、日志、生成文件和最终输出泄露的敏感数据。核心 trace 分析在本地运行,不依赖 LLM;可选的实时智能体运行使用你配置的 endpoint。 用 Python 3.10+ 试运行一个内置合成示例: pip install agentleak agentleak run --scenario healthcare_patient_summary 该示例展示了一个干净的最终答案与内部通道泄露并存的情况。它仅作演示,不是生产环境的泄露率估计。请按照工具快速入门分析你自己的 trace。 本仓库仍是研究基准和复现代码。其实验、通道定义和检测流水线应与实用工具的确定性分析和内置示例分开引用。 论文 (v3) 评估了医疗、金融、法律和企业领域的 1,000 个场景,覆盖五个模型,共 4,979 条经过验证的执行 trace。AgentLeak 对七个通道进行监测:C1 最终输出、C2 智能体间消息、C3 工具输入、C4 工具输出、C5 共享内存、C6 日志和 C7 制品。大规模分析覆盖 C1/C2/C5;C3/C6 在样本上评估;C4/C7 在集成研究中考察。因此这些通道的经验覆盖并不相同。经过验证的 trace 数量也记录在 paper_stats.json 中。 下表和结论保留自现有 README,作为独立的仓库摘要。其所述 5,694 条 trace 的基础和报告比率尚未与论文的 4,979 条验证 trace 对账。不要将它们解释为论文的验证结果,也不要将两个分母合并;请查阅论文以了解其报告的结果和评估范围。 内部通道的泄露量是外部通道的 2.6 倍(74.0% vs 28.2%) 仅审计输出会漏掉 45.9% 的违规 Claude 3.5 Sonnet 悖论:C1 泄露最低(8.2%),但内部/外部比率为 6.6 倍——在所有模型中最高 发现 7(工具泄露):即使最终智能体输出 (C1) 完全净化,工具输入 (C3) 和系统日志 (C6) 的泄露率也极高(Claude 3.5 上高达 85%)。 模式 C2 > C1 在所有 5 个测试模型中均成立 范围 1,000 个场景(医疗、金融、法律、企业) 7 个通道:C1 输出、C2 智能体间、C3-C4 工具、C5 内存、C6 日志、C7 制品 32 个攻击类别,6 个家族 SDK:CrewAI、LangChain、AutoGPT、MetaGPT 复现 主基准 (C1, C2, C5) 复现主要结果(输出、内部、内存): cd benchmarks/ieee_repro python benchmark.py --n 1000 --traces --model openai/gpt-4o 高级工具与日志基准 (C3, C6) 针对“次级通道”泄露,即敏感数据被发送到外部工具或转储到日志中。 cd benchmarks/ieee_repro

为特定模型运行(例如 Claude 3.5)

python benchmark_tools.py --n 100 --model anthropic/claude-3.5-sonnet

或运行自动化多模型测试套件

./run_tools_benchmark.sh 结果保存在 benchmarks/ieee_repro/results/tools/。 agentleak/:核心框架 SDK agentleak_data/:1000 个场景的数据集 benchmarks/ieee_repro/:复现论文发现的脚本,包括发现 7(工具与日志)。 benchmarks/showcase/:真实 CrewAI 集成演示,展示 SDK 的实际应用。 paper/:IEEE Access 论文的 LaTeX 源码 安装 git clone https://github.com/Privatris/AgentLeak cd AgentLeak pip install -e . pytest tests/ -v 用法 from agentleak import AgentLeakTester, DetectionMode tester = AgentLeakTester(mode=DetectionMode.HYBRID) result = tester.check( vault={"ssn": "123-45-6789"}, output="The SSN is 123-45-6789", channel="C1" ) print(f"Leak: {result.leaked}, Confidence: {result.confidence}") CLI: python -m agentleak run --quick --dry-run python -m agentleak run --full 复现 cd benchmarks/ieee_repro python benchmark.py --n 100 --traces --model openai/gpt-4o-mini Trace 位于 benchmarks/ieee_repro/results/traces/。 title = {AgentLeak: A Benchmark for Internal-Channel Privacy Leakage in Multi-Agent LLM Systems}, author = {El Yagoubi, Faouzi and Badu-Marfo, Godwin and Al Mallah, Ranwa}, journal = {IEEE Access}, year = {2026}, doi = {10.1109/ACCESS.2026.3704541}, url = {https://doi.org/10.1109/ACCESS.2026.3704541} 许可证 MIT

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →