关于GAN的灵魂七问

由于 GAN 判别器是一种图像分类器，有人可能担心其遭遇对抗样本。研究 GAN 和对抗样本的文献不在少数，但研究二者关系的文献却少得可怜。因此，我们不禁要问：

我们如何开始考虑这一问题?假设有一个固定判别器 D。如果有一个生成器样本 G(z) 被正确分类为假样本，并且有一个小的扰动 p，G(z)+p 就被分类为真样本，那么 D 就有了一个对抗样本。使用一个 GAN 要考虑的是，生成器的梯度更新将产生一个新的生成器 G'，其中，G'(z) = G(z) + p。

这种担心是现实存在的吗?我们更担心一种叫做「对抗攻击」的东西。我们有理由相信这些对抗攻击发生的可能性较小。首先，在判别器再次更新之前，生成器只能进行一次梯度更新。其次，从先验分布中抽取一批样本，生成器得以优化，这批样本的每个梯度更新步都是不同的。

最后，优化是在生成器的参数空间(而不是像素空间)中进行的。然而，这些论点都没有完全排除生成器创建对抗样本的可能。这将是一个值得深度探讨且富有成果的话题。

原文链接：https://distill.pub/2019/gan-open-problems/

【本文是51CTO专栏机构“机器之心”的原创译文，微信公众号“机器之心( id: almosthuman2014)”】

戳这里，看该作者更多好文

（编辑：通化站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!