返回资讯中心
外部精选
软件工程
#开发者实时流

从分类到生成:在MNIST上对比自编码器、VAE与GAN

来源标题:Autoencoders, VAEs, and GANs on Digits

文章转向图像生成任务,在MNIST上训练自编码器、VAE和GAN,观察模型压缩数字后重建图像的能力。普通自编码器验证集MSE为每像素0.06489,仅比均值图像基线好3.1%。作者借此说明生成任务之难,并关注重建误差、KL项与样本多样性。

Hacker News 最新Anon842026/11/6 · 11 天前11 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

在第21到24篇文章中,我们用笨办法搭建了MNIST流水线:卷积层、训练循环,以及一个读取28×28图像并给出类别名称的数字分类器。这些模型都是输入一张图像,输出一个标签。本文要把这个箭头反过来。我们让网络自己生成图像,整个练习就变成了一项研究:一个数字里有多少东西可以丢掉,却仍然能把它找回来。贯穿始终的主题是压缩及其代价:这里的每个模型都把数字压进一个小码,然后为重建它付出代价,而这个代价的大小告诉我们模型实际学到了什么。我们的普通自编码器在验证集上的均方误差(MSE,即像素差的平方均值)为每像素0.06489,比均值图像基线好3.1%。这个不大的数字,是生成有多难的第一道信号。

我们全程使用MNIST,即来自torchvision的那70,000张灰度数字,并且让每个模型都小到能在CPU上几秒内训练完。目的不是赢得某个基准。目的是观察重建误差、KL项(码分布离标准正态有多远)和样本多样性如何随目标函数的变化而移动,并解读每个数字对模型所构建的码说明了什么。

在谈任何模型之前,我们先看数据。图像是28×28单通道,所以展平成784个值是安全的;标签从0到9,图像和标签都没有缺失值。类别分布接近均匀,数字1最常见,占训练集的0.112,数字5最稀有,占0.090,这意味着之后的标签条件化对每个类别都有大致相等的材料。

像素直方图是塑造每一个模型选择的发现。约80.8%的像素值恰好为零,所以图像大部分是空白画布,只有几笔明亮的笔画。这种稀疏性正是我们在VAE的每个解码器输出上放sigmoid,并用二元交叉熵给重建打分的原因:目标实际上是一张墨水所在位置的软掩码。

我们还检查了泄漏。对每张训练图像做哈希,发现零个完全重复,也没有训练图像同时出现在测试集中,所以干净的池子保持全部60,000张图像。从这个池子里,我们用种子42抽取固定的8,000张训练集和2,000张验证集,本文中的每个模型都看到同一个划分。均值图像基线设定了下限:对每个输入都预测平均数字,得到验证MSE为每像素0.06696,任何自编码器都不允许比这更差。

逐类看一眼,能看到共享的笔画词汇。

自编码器是两个首尾相接的函数。编码器把784个值的图像映射成一个小潜在码——图像的压缩替身,这里是32个数——解码器再把这个码映射回784个值。如果重建得好,码一定保留了重要的东西。我们在同一划分上训练三个变体:普通自编码器;去噪自编码器版本,它看到的输入被sigma 0.35的高斯噪声污染,必须返回干净数字;以及稀疏自编码器版本,它加了一个权重lambda 0.01的L1惩罚(对码值绝对大小的代价)。

def add_noise(x, sigma=0.35): return torch.clamp(x + sigma * torch.randn_like(x), 0.0, 1.0)

去噪:输入噪声副本,对干净目标打分

inp = add_noise(xb) if denoise else xb out, z = model(inp) recon = F.mse_loss(out, xb, reduction='mean') loss = recon + sparse_lambda * z.abs().mean()

三个模型各训练一个epoch,总共只用0.7秒。普通自编码器达到验证MSE 0.06489,稀疏版本0.06235,去噪版本在干净输入上打分时为0.07068。最后一个数字看起来像是退步,直到我们按它训练的方式来打分:在噪声输入上,普通模型给出0.06591,去噪模型给出0.06911,所以去噪在这里并没有给我们买来精度,它买来的是一种不同的噪声容忍度,而在8,000张图像上只训练一个epoch,太短了,不足以让它表现为干净的胜利。稀疏惩罚在码本身上完全兑现了承诺,把潜在值的平均绝对值从4.589降到0.641。

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →