调查发现400多个伪装成日常应用的域名暗中提供性虐待深度伪造图像生成

这一切都只是幌子，该应用的真正目的似乎是制作带有性虐待内容的深度伪造图像。WIRED的一项调查发现，该应用属于一个由400多个相互关联的域名和应用组成的网络，这些应用与Viefur一样，往往自称是日常服务——比如语言教学或AI健身教练。然而，在某些条件下访问时，该网络中的应用会悄悄加载一个网页界面，允许用户利用自己上传的照片生成露骨的AI性图像和视频。这些应用包含“卧室强奸”和“持刀威胁”等AI场景，其中男性将刀抵在女性脖子上。

这个网络是由多名研究人员在调查数千条包含露骨深度伪造内容的视频广告链接后发现的，这些广告发布在Meta的Facebook和Instagram上，原本就隐藏在众目睽睽之下。正如WIRED近几个月所报道的，其中数百条广告包含AI生成的儿童性虐待材料，包括真实儿童和一名欧洲王室成员的图像。这些广告触达了数万人，并已引发世界各地监管机构的调查。

在每一起案例中，广告都链接到Apple和Google应用商店中的欺骗性应用——允许人们生成露骨图像并通过Apple Pay和Google Pay付款。这些裸体化应用背后的网络似乎已经发布这类应用大约一年，有时每周发布数十个。尽管Google、Apple和Meta都表示他们执行了禁止在其平台上发布有害深度伪造内容的政策。

根据对网络域名及服务运营方式的审查，WIRED调查的应用和域名似乎由中国开发者以及一家名为KeLing Technology Limited的香港注册实体运营。与该实体、应用及相关服务关联的电子邮件地址未回应WIRED的多次置评请求，但在被联系后，他们似乎删除了KeLing Technology Limited与这些深度伪造工具之间的公开关联。

“这是一个有组织、商业化运营的操作：一个运营者背后有数百个一次性应用和域名，经过伪装以通过应用商店审核，并以虚假付款人名义通过数万条Meta广告推送，”调查该网络的非营利组织AI Forensics首席研究员Paul Bouchaud表示。“他们不指望执法能跟上，而到目前为止也确实没跟上。”

隐藏行为

下载该深度伪造网络中的任一应用，你可能会看到与广告宣传完全一致的内容——比如一款制作AI宠物图片的应用。但研究人员发现，在幕后，这些应用正在悄悄判断是展示良性内容，还是加载显示露骨深度伪造内容的网页界面。

“每次下载应用时，都会向服务器发起一次调用，携带一些信息，比如用户来自哪里、语言、某些唯一标识符，然后服务器回复是否展示露骨或非露骨版本，”Bouchaud解释道，他对这些应用及相关网站的代码进行了逆向工程。他们表示，目前没有明确的清单说明为什么某个用户会被展示应用的露骨版本，但一个触发因素似乎是在点击Meta平台上的关联广告后下载该应用。

与这些应用关联的网站揭示了该网络的秘密及其运营规模。打开其中某个应用的网站，很可能只会显示全黑屏幕，没有任何内容。唯一明显的变化是URL更新为包含“risk”一词。但这些网站承载着隐藏的露骨深度伪造层，可以在每个应用中加载。

该网页界面包含数十个色情深度伪造视频和图像模板——用户可以上传人物图像并将其添加到性场景中。该界面允许购买“钻石”来生成图像，并链接到其他社交媒体账号，用户可以通过这些账号联系开发者提出问题或投诉。

网站的代码中还隐藏着关于整个网络的详细信息。研究人员表示，一个可以轻松拆解的JavaScript包包含了开发者创建的所有域名和应用的列表——包括应用包详情、加密密钥、Facebook广告追踪器等。

“它们包含了一份巨大的配置列表，列出了其他域名及不同的加密密钥，”安全公司Infoblox的专职威胁研究员Maël Le Touz表示，他识别出了近500个关联域名。“它们运行相同的代码，并且相互引用。”

Bouchard对域名注册时间的分析发现，这些应用大约在2025年底开始出现，并在今年春季出现激增。这位研究员表示，在某一时期，每周约有30个裸体化应用网站被注册，9月份有27个在Google Play Store上活跃。Bouchard的研究称，这些应用的总下载量超过35万次，许多被评级为适合所有年龄段。

其中最受欢迎的应用之一名为DiffAI，创建于2025年12月，在Play Store的下载量已超过10万次。Google Play Store上的一条用户评论写道：“这个应用包含用于创建CSAM（儿童性虐待材料）和其他类型色情材料的模板。它不进行任何年龄验证。”

在WIRED就該网络联系Google前不久，DiffAI已从Play Store下架。Google未回应WIRED的置评请求，不过在WIRED联系之前，它已经下架了大多数应用。（该深度伪造网络的部分内容曾于9月被丹麦记者报道。）

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）