RSAC
Deepfake（AI换脸）是人工智能领域近期发展的一个不幸产物。近年来，由机器学习算法生成的假视频和假图片得到了广泛的关注。艾莉莎·米勒（Alyssa Miller）在2020年RSA大会上发表了题为“消逝的现实”的演讲，解释了为什么即便不是选举年，Deepfake视频也会是一种普遍威胁，以及当你的企业受到这样的攻击时，你可以做些什么来减轻它所带来的影响。
Deepfake制作原理
最常见的Deepfake制作方法是使用GAN，即生成式对抗网络（Generative Adversarial Network）。GAN由两个相互竞争的深层神经网络组成。首先，这两个网络需要接受真实图像的训练。然后对抗开始了，其中一个网络负责生成图像(生成模型)，另一个则负责判定图像是否足够真实(判别模型)。
在接下来的过程中，生成模型网络不断学习，并根据判别的结果改进自己，生成新的图片。同时，判别模型网络学习如何提高正确判断的几率。每经过一个周期，两个网络都会得到提升。
让我们直接快进到一百万个训练周期后，这时，生成神经网络已经进化到一同发展的判别模型网络都无法将其所生成的虚假图像与真实图像区分开来。
这种方法非常实用，根据在准备阶段所学习的不同数据类型，生成网络可以生成各式各样的图像。
当然对于Deepfake来说，该算法针对特定人的真实照片进行训练，生成无数张足以以假乱真的人物图片，合成到视频中。通过类似的方法还可以生成假音频，而可能已经有不法分子使用Deepfake制作假音频了。
Deepfake有多真
早期的Deepfake视频看起来很可笑，但如今这项技术已经发展到足以让视频拥有惊人的说服力。2018年最引人注目的Deepfake作品之一就是“奥巴马”发表有关Deepfake言论的视频(外加一些对现任美国总统的调侃)。在2019年的年中，我们又看到了一段“扎克伯格”对当前隐私状况出奇地坦白的短视频。
要了解这项技术到底有多强，看这个视频就知道了。著名演员吉姆·麦斯奇门(Jim Meskimen)与Deepfake艺术家Sham00k合作创作了这段视频。前者负责配音，后者使用Deepfake软件将约20位名人的面孔添加到视频中，结果完全超乎想象。
Sham00k在幕后视频中表示，”整个视频的制作耗时超过250个小时，使用了1200个小时的素材，30万张图片和近1tb的数据。”也就是说，制作这样一部影片并非易事。但这种以假乱真的视频中所传递的虚假信息很可能会对真实世界（如选举）产生巨大影响，与其造成的结果相比，整个过程实在是容易得可怕，而且成本也很低。
出于这个原因，几乎在上述视频发布的同时，加州就颁发了禁令，禁止在选举季播放政治性的Deepfake视频。然而换脸视频的问题并没有得到解决。对于Deepfake的初级创作者来说，这种视频是能够用于政治讽刺的一种表达形式，而加州的禁令并没有保护人群的言论自由。
第二个问题则是从技术性和实用性的角度出发，人们究竟该如何准确地分辨Deepfake视频和真实视频?
如何分辨Deepfake视频
机器学习一直是技术领域里最热门的话题，而当极具挑战性和趣味性的Deepfake问题出现时，足以吸引全世界绝大多数科学家投身其中。出于以上原因，有很多研究项目都集中在如何使用图像分析来检测Deepfake视频。
以一篇发表在2018年6月的论文为例，它描述了分析眨眼这个动作对于检测Deepfake视频的作用。其基本逻辑是，人们眨眼的照片数量相对较少，因此是不足以支持神经网络训练的。事实上，在论文发表同期的Deepfake视频中，人眨眼的次数少得让人难以置信。尽管这种差异很难用肉眼察觉，但却对于计算机分析却能够起到帮助作用。
2018年11月提交的两篇论文表示可以在视频中查找面部扭曲和不连贯的头部姿势。另一篇2019年的论文中介绍了一种能够分析个体说话时典型面部表情和动作的复杂技术。
然而，正如米勒在演讲中所指出的那样，从长远来看新的技术总是能够突破这些检测方法。这类研究最终只是变相地给Deepfake创作者提供反馈，帮助他们改进识别神经网络，从而更好地训练生成网络，进一步加强Deepfake的效果。
通过企业沟通降低Deepfake的威胁
综合前文提及的所有问题，目前并没有能够有效解决deepfake问题的纯技术方案。但我们还有其他的选择，具体来说就是通过有效的协作沟通降低其可能造成的威胁。你需要监控与公司相关的信息，并且在遇到虚假信息传播时掌握话语权。
我们总结了艾莉莎·米勒的建议，希望能帮助你的公司做好应对deepfake威胁的准备。同样的方法也可以用于处理其他类型的公关事故：
- 精简公司沟通渠道；
- 持续使用统一的信息发放渠道；
- 制定应对虚假信息的计划(将其视为安全事件)；
- 设置舆情集中监测和汇报系统；
- 推行责任制的规章制度并与部门进行事实核查；
- 持续跟进检测及预防技术的发展。
提示