WIRED调查：400余款日常AI应用暗藏性虐待深度伪造功能

这些全都是幌子，掩盖的似乎是这款应用的真实目的：制作带有性虐待内容的深度伪造图像。

《连线》杂志的一项调查发现，这款应用属于一个由超过400个相互关联的域名和应用组成的网络。这些应用与Viefur一样，往往声称自己是日常服务类应用，比如语言教学或AI健身教练。然而，在某些特定条件下访问时，该网络中的应用会悄悄加载一个网页界面，允许用户利用自己上传的照片生成露骨的AI色情图像和视频。这些应用包含诸如“卧室强奸”和“持刀威胁”之类的AI场景，其中男性将刀架在女性的脖子上。

多名研究人员在调查数千条包含露骨深度伪造内容的视频广告后发现了这个网络，这些广告发布在Meta旗下的Facebook和Instagram上，原本就隐藏在众目睽睽之下。正如《连线》近几个月所报道的，其中数百条广告包含AI生成的儿童性虐待材料，包括真实儿童和一名欧洲王室成员的图像。这些广告触达了数万人，并已引发世界各地监管机构的调查。

在上述每一起案例中，这些广告都指向了Apple和Google应用商店中的欺骗性应用，让用户能够生成露骨图像并通过Apple Pay和Google Pay进行支付。这些“一键脱衣”应用背后的网络似乎已经发布了大约一年时间，有时每周发布数十款。尽管Google、Apple和Meta都声称他们执行了禁止在其平台上出现有害深度伪造内容的政策，但这一切仍然发生了。

根据对网络域名及服务运营方式的审查，《连线》调查的这些应用和域名似乎由中国的开发者以及一家名为KeLing Technology Limited的香港注册实体运营。与该公司、相关应用及相关服务关联的电子邮箱未回应《连线》多次的置评请求，但在被联系之后，他们似乎删除了KeLing Technology Limited与这些深度伪造工具之间的公开关联。

“这是一个有组织、商业化的运营：一个运营者在背后操控数百个一次性应用和域名，经过伪装以通过应用商店审核，并以虚假付款人名义通过数万条Meta广告进行推广，”调查该网络的非营利组织AI Forensics首席研究员Paul Bouchaud表示。“他们根本不指望执法能跟上，而到目前为止也确实没跟上。”

隐藏行为

下载该深度伪造网络中的任何一款应用，你看到的可能正是广告所宣传的内容——比如一款制作AI宠物图片的应用。但研究人员发现，在幕后，这些应用正在悄悄地判断是展示这些无害内容，还是加载一个展示露骨深度伪造内容的网页界面。

“每次下载应用时，都会向服务器发送一个请求，附带一些信息，比如用户来自哪里、语言、某个唯一标识符，然后服务器回复是否展示露骨版本还是非露骨版本，”Bouchaud解释道，他对这些应用及相关网站的代码进行了逆向工程。他表示，目前没有明确的清单说明为什么某个用户会被展示应用的露骨版本，但一个触发因素似乎是在Meta平台上点击相关广告后下载该应用。

与这些应用关联的网站揭示了该网络的秘密及其运营规模。打开其中任何一个应用的网站，很可能会显示一个完全黑屏的页面，没有任何内容。唯一能注意到的变化是URL中增加了“risk”一词。但这些网站托管着隐藏的露骨深度伪造层，可以在每个应用中加载。

这个网页界面包含数十个色情深度伪造视频和图片模板，用户可以上传他人照片将其添加到性场景中。该界面允许购买“钻石”来生成图像，并提供了其他社交媒体账号的链接，用户可以通过这些账号联系开发者提出问题或投诉。

网站的代码中还隐藏着关于整个网络的详细信息。研究人员表示，一个很容易被解包的JavaScript捆绑包包含了开发者创建的所有域名和应用列表——包括应用包详情、加密密钥、Facebook广告追踪器等。

“它们包含了一份庞大的配置列表，列出了其他域名及不同的加密密钥，”安全公司Infoblox的威胁研究员Maël Le Touz说，他识别出了近500个关联域名。“它们运行相同的代码，而且彼此相互引用。”

Bouchard对域名注册时间的分析发现，这些应用大约在2025年底开始出现，在今年春季出现了一个高峰。这位研究员表示，在某个时间点，每周大约有30个“一键脱衣”应用网站被注册，9月份有27个在Google Play Store上线。Bouchard的研究显示，这些应用的总下载量超过35万次，许多被评级为适合所有年龄段。

其中最受欢迎的一款应用名为DiffAI，创建于2025年12月，在Play Store的下载量已超过10万次。Google Play Store上的一条用户评论写道：“这款应用包含用于制作CSAM和其他类型色情材料的模板。它不进行任何年龄验证。”

在《连线》就这一网络联系Google之前不久，DiffAI已从Play Store下架。Google未回应《连线》的置评请求，不过在被联系之前，它已经下架了大多数相关应用。（丹麦记者曾在9月份报道过该深度伪造网络的部分内容。）

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）