来源: AI前线

前线导读：近日，利用生成对抗网络（GAN）自动生成动漫头像在网络上引发了热潮，各种或呆萌或高冷的头像并非来自任何一部动漫，而是由神经网络模型直接生成的。此后，一些更加疯狂的开发者搞出了更加不可思议的模型：直接生成人物照片。

先来玩儿个简单的小游戏，猜猜看下面这两张图中哪一张是真实的照片：

选好了吗？答案揭晓了，真实的照片是——右边的这位美女！

是不是有些不可思议？左边这张怎么看都像是一张普通的照片啊，怎么会是 AI 生成的呢？但事实就是如此，左边的这张照片中的美女，没有国籍、没有姓名，根本不存在于这个世界。没错，这就是生成对抗网络 GAN 的强大威力。

如果你觉得这道题太简单，你也可以猜猜看本文封面图的两个漂亮妹子哪个是真实的？哪个是AI生成的？

“在互联网上，没人知道你是 AI”

上面的这个游戏是来自这个网站的作品：http://www.whichfaceisreal.com ，感兴趣的读者可以自己去感受一下。

这个网站的作者是来自华盛顿大学的两名教授：Carl T. Bergstrom 和 Jevin D. West，他们分别是生物学教授和信息科学教授。在网站的介绍页面，他们写了这样一段话：

图：“在互联网上，没有人知道你是一只狗。”

他们这样写道：

过去的四分之一个世纪里，我们在漫画里展示的教训中不断成长，互联网上的陌生人可能是任何身份、来自任何地方。音乐论坛上的管理员可能是住在他妈妈房子地下室的小屁孩，聊天室里的一个十四岁的女孩可能是一名卧底警察，邮箱中找你重金求子或者让你继承遗产的女富商更是让人一眼看过去就知道是骗子。

虽然我们已经学会不再相信对方的用户名和文字介绍，但是照片却不是这样。我们曾经一直相信，谁都无法凭空地合成一张图片，一张照片上的人物必定是来自现实中的某个人。当然，一个骗子可能用的是其他人的照片，但这样做是一个冒险的策略，在谷歌利用图片搜索进行反向查找，总能找到照片的来源。所以我们倾向于信任图片，带图片的商家资料显然更可信，在约会网站上的照片可能比本人差距要大很多，但是因为有照片，我们总能找到它一定来源于某个人。

可是，新的逆向机器学习算法打破了这一规则，它可以让人们快速生成从未存在过的人的“合成照”。

图：这些照片都是 AI 生成的，你相信吗？

计算机很好很强大，但你作为人类的视觉处理系统其实更好。如果你了解一些技巧，就可以一眼就看出这些假货，至少目前是这样。用于生成它们的硬件和软件将继续改进，并且可能只用几年时间就能骗过专业的检测系统。

我们的目标是让您了解：网络上的身份可以轻松伪装，并帮助您一目了然地发现这些骗局。

万“恶”之源：StyleGAN

这个网站的作者强调说：他们并不是这套模型的原作者，而是使用者，真正的作者是来自知名半导体公司英伟达的几位工程师：Tero Karras，Samuli Laine 和 Timo Aila，他们基于 Ian Goodfellow 及其同事在 Generative Adversarial Neworks（GANs）的早期工作而进行的研发，做出了这套名为：StyleGAN 的模型。

2019年2月，图形硬件制造商英伟达发布了照片级真实面部生成软件 StyleGAN 的开源代码。该软件采用生成对抗网络（GAN）方法，利用两个神经网络互相训练，一个试图生成与真实照片无法区分的合成图像，另一个试图分辨出差异，这样训练几个星期后，图像创建网络可以生成像上面展示的那样以假乱真的图像。

图：依靠 StyleGAN 合成的照片

除了对抗性网络系统的代码之外，NVIDIA 还以神经网络权重的形式发布了数据，用于完整训练的模型，以便用户可以绕过漫长的训练过程并立即开始生成面部合成照。在训练过程中，GAN 需要一组真实的面孔来学习，NVIDIA 提供的网络拥有了两个大型面部照片集合 CELEBA-HQ 和 FFHQ，前者包括数以千计的名人面孔，后者包括根据创意公共许可证发布到 Flickr 的70,000张面部照片。

图：用于训练的来自 [FFHQ 数据集] 的真实面部照片(https://github.com/NVlabs/ffhq-dataset)

不过，毕竟是依靠算法生成的图片，总有玩儿脱的时候，下图展示的就是一些合成失败的案例：

图：扭曲的下巴与诡异的帽子

图：“分筋错骨手”

人脸都能合成了，还有安全可言吗？

虽然合成人脸照片很酷，但是这样的做法不免的引起了网友的恐慌。有不少人表示：人脸都能合成，安全问题该如何保证？

我们都知道对话机器人已经部分取代了客服的工作，不少银行、商家的客服都已经是 AI 了。我们的编辑前不久就接到一通来自银行的客服电话，声音虽然仍有明显的合成痕迹，但已经很贴近真实的人声了。