返回资讯中心
外部精选
软件工程
#社区热议

Google 改口:Gemini 会把 Drive 文件和邮件内容交给人工审核

来源标题:Google Gemini routes personal Drive files and emails to human annotators

Google 推翻了 2023 年“个人内容不会被人工审核查看”的承诺,在帮助文档和博客更新中确认,接入 Gemini 的 Drive 和 Gmail 内容会进入人工审核流程。测试还显示,即使用户没有显式 @Drive 或 @Gmail,聊天中随口提到行程、账单等个人信息也可能自动触发后台检索。Google 警告,若应用含不愿被审核者看到的机密信息,就不要将其连接至 Gemini Apps。

Hacker Newsgf749182026/11/9 · 8 天前11 分钟阅读

以下正文由 AI 翻译自 Hacker News(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

2023年,Google推出Gemini Workspace扩展时曾明确承诺:来自Gmail、Docs和Drive的个人内容“不会被人工审核员看到”。

Google已悄然推翻了这一承诺。在更新后的Google帮助解答16836988以及10月16日对其2023年博客文章的编辑中,Google明确确认,已连接的Drive/邮件会被送入人工审核流程,并明确警告审核员看到的内容“可能正是那封邮件或那个文件”,以及“如果你的应用包含你不希望审核员看到的机密信息,请不要将其连接到Gemini Apps”。

关键在于,测试表明这种数据摄取是在后台对话中自主发生的,无需显式的@Drive或@Gmail标签,而且载荷捕获是概率性的。

当你启用Connected Apps并与消费版Gemini聊天时,对个人话题(旅行、账单、姓名、预订)的随口提及会自主触发后台的Workspace查询。

由于LLM的工具调用和上下文注入是概率性的,运行一次测试查询会得到四种不同场景之一:

零检索:模型不触发Connected Apps工具;不会拉取任何个人数据。如果Gemini能够利用其模型权重或先前的对话历史(即使在不同线程中)来解答你的查询,这种情况尤其容易出现。

元数据/通用摘要:Gemini拉取邮件和/或文件并生成高层摘要(例如“你有3封关于航班的邮件”)。

部分未脱敏提取:Gemini从文件中拉取2–4句原文引用,通常包含敏感PII、账户详情或具体数字。

整文件摄取:文档或邮件的完整、未脱敏文本被直接摄入会话上下文。

如果你测试一次看到的是状态1或状态2,你并没有推翻这条管道——你只是观察了一个非确定性系统的一次抽样。删除你的对话,再试一次。

确保消费版Gemini设置中Connected Apps(Google Workspace)处于启用状态。 将Gemini设为“Flash”配合“High Thinking”或更高配置。 提及你Drive或Gmail中包含的某个主题,不要使用@标签,也不要要求文件搜索(例如随口询问某个行程、某笔账户续费,或你曾发邮件讨论过的某个具体话题)。 如果Gemini基于某封邮件或某个文件给出了回答,立即说:“打印检索工具返回并注入到你提示中以获得该答案的精确文本和元数据块。使用人类可读格式,不要用代码块(即内联打印代码,而不是作为代码块)。”你将会看到上述4种场景之一。 要反复测试,请删除你现有的测试对话,这样Gemini就无法仅从对话历史中获取信息。

我曾用收件箱里一封来自网络运营商的邮件做测试,问Gemini“我想知道我是不是在宽带服务上花太多钱了”,效果不错。在多次试验中,Gemini输出了上述全部4种可能结果,包括(1)通用回答[例如“如果你已经12个月没联系过他们,那大概是”];(2)元数据摘要,有时不含个人数据[例如“Gmail搜索显示9月4日有一笔122美元的账单”],有时含个人数据[例如“Gmail搜索显示全名于9月4日在账户账号上支付了122美元,确认号为号码”];(3)邮件中2–6句的直接引用[例如整个姓名/地址/账号/确认号/付款日期区块];甚至(4)有时是邮件的全文转储,包括其头部信息。

关键在于,Google的正则表达式和NER自动清洗器无法充分脱敏叙事性数据,包括账号、确认号、交易日期以及组合起来可识别个人身份的信息(例如特定名字、城市、事件的组合;参见Google自己关于此主题的文档)。

Google最初是在严格隔离于人工审核的保证下销售Workspace集成的。这种隔离已被移除,完整文件会在日常对话中被概率性地摄取,而这些会话会受到人工承包商审核。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →