在互联网的至少一个黑暗角落里，近8万人聚在一起分享、观看“换脸”视频，其中包括伪造的女明星的色情视频，尼古拉斯·凯奇主演的《夺宝奇兵》等。《夺宝奇兵》的实际主演是哈里森•福特，而不是尼古拉斯•凯奇，但是普通人无法识破GIF的“换脸”破绽。

尼古拉斯•凯奇“主演”的《夺宝奇兵》

最初这种“换脸”色情片起源于在线论坛 Reddit，一位 ID 是 deepfakes 的用户将《神奇女侠》主演盖尔·加朵的脸“贴”在色情片主演脸上，上传到网络，反响热烈。最后，用户 deepfakes 还专门建了个 Reddit 主题。

在这篇文章中，全媒派（ID：quanmeipai）将带你了解deepfakes，拨开乱象，与读者一起思考，deepfakes究竟是“红颜”还是“祸水”。

揭下deepfakes的神秘面纱

一场依托技术的大众狂欢

Deepfakes其实是一种逼真的交换面孔的新视频技术。不同于一般意义上的p图，电脑程序找到两个面部之间的共同点，通过搭建神经网络来学习人脸，使替换以后的脸可以生动地模仿原来的表情，以假乱真。如果源素材的质量足够高，面部的转换几乎是天衣无缝的。

左边是奥巴马的视频素材，右边是合成的

虽然deepfakes的工具是开源的，但是对于普通网友来说，操作还是颇有难度。在Reddit的Deepfakes主题专区，用户deepfakeapp在deepfakes的代码基础上做了一套傻瓜式工具，开发了一款名为 FakeApp 的电脑软件，可以更快速、便捷地制作这类合成视频，使得广大用户都能够操作，助推了大量类似视频的出现和传播。

Reddit·Deepfakes专区的Fakeapp下载界面

在这个专区里，用户可以比较、交换自己的最新作品，比如换上艾玛·沃森的脸的色情视频，给普京安上特朗普的脸等。目前，该专区共吸引了9万用户的关注。

十二月，Motherboard做了一篇deepfakes的基础报道，并持续追踪。上周，有消息称，人们正在使用这项技术来创作自己朋友和同学“主演”的色情影片。站在现在的时点上看，由deepfakes发展出来的一系列事件让人倍感失望。

在这个片段中，我们看到加尔·盖朵的脸叠加在色情演员的脸上。加尔·盖朵的同意与否并没有影响到剪辑这段视频的Redditor，如果人们从朋友那里收到包含此类文件的短信或电子邮件，他们也不知道该视频是不是假的，因为脸部的互换非常成功，一般人看不出破绽。

加尔·盖朵的脸，移到成人影片的主角脸上

无论是在现实生活还是在虚拟世界里，一个毫不知情的人都不应该陷入这种境地。但是事实并非如此。根据Google的数据，“加尔·盖朵”仍然是谷歌搜索中搜索量最高的deepfakes相关词汇之一。

这体现了解决问题的紧迫性，即使这个问题才刚刚出现。在互联网上发布的内容难以抹去，特别是有一群人致力于复制、传播它的时候。人们可以在明天就停止创造新的deepfakes，但加尔·盖朵的这段影像将会永远留存。

禁Deepfakes 还一方净土

Twitter方面表示，这些视频违反了该公司的规定：“不得张贴或分享未经他人同意而制作或发行的私密照片或视频。Twitter发言人说：“任何我们裁定是未经他人同意就制作或发布的私密图像，我们都将冻结原上传者的账户，还有所有发布此类内容的帐户。”

Deepfakes的危害不仅仅是色情片中的“换脸”，它体现了技术的滥用所带来一系列的危害，此前，deepfakes还将特朗普总统的脸安在希拉里·克林顿的头上。Reddit调整了网站上的内容条款，禁止青少年非自愿型色情、有性暗示的内容出现，Deepfakes 主题在上周三也被封禁。

换成特朗普总统的脸的希拉里

色情影片分享网站Pornhub在用户标记内容时，及时在自家平台上删除Deepfakes的内容。在接受Mashable采访时，PornHub副总裁Corey Price说，“已经有用户给内容贴上“Deepfakes”的标记，一旦遇到此类标志，我们就会马上下架。我们鼓励所有遇到这类问题的人登陆我们的内容删除页面，这样，他们就可以正式提出请求。”

除此之外，语音聊天沟通软件Discord也封禁了一个分享deepfakes的团体。 GIF平台Gfycat也公开谴责这些片段，告诉BBC这些片段“令人反感”。

求助无门

缺少法律支持 言论自由岌岌可危

芝加哥大学法学院专利与技术法教授乔纳森·马苏认为，那些深受这种新技术之害的人没有强有力的法律手段给予支撑，即使对于私人公民也是如此。

“如果是你亲自拍摄的色情影片，那么你可以告他们侵犯版权。如果有人坚称视频里的人是你，那么你可以以诽谤之名提起诉讼。如果你是名人，那么你可以公告声称是有人想以此牟利。但是，这些都只是这一切的一小部分，不能覆盖绝大多数情况。”而大部分的此类视频中都承认是伪造的，所以诽谤罪名不成立。

最近由MaryAnn Franks和Danielle Citron发起的禁止deepfakes运动不适用于这些情况，因为这些法律涉及的是私人图像、个人视频的流出。而在这场运动中，“没有人的私密图像在网上流传，只是他们的脸安在了别人的身上”。

目前还没有任何现存的法律，也没有引入任何法律反对这种做法。而且，通过立法来解决Deepfakes也很棘手，因为这样做会违反《宪法第一修正案》。

关注网上言论自由的一NGO管理者大卫格林指出，“从公民自由的角度来看，我担心最后对deepfakes采取的措施是监管性的，最终侵犯到受保护的言论（自由）。这是一个坏主意，而且很有可能违宪，例如将该技术定性为犯罪。”

有一弊必有一利

面部识别的发展

“世间事总是有长有短，有利有弊。”虽然现在deepfakes是色情的代名词，但是这个技术背后的基本概念是面部识别，理论上来说，它还有很多尚未发现的优点。

大家可能已经熟悉像Snapchat这样的应用程序中基本的，实时的面部识别。该技术是根据“地标点”来映射面部，这些地标点包括你的眼睛和嘴巴的一角，你的鼻孔，以及下巴的轮廓等等。Snapchat在识别面部方面有着出色的表现，同时它也擅长加一些转换的特效，让你的脸部特征更加鲜明。但是它的换脸功能仍然有不足之处，有一部分原因是Snapchat是即时处理的。

而Deepfakes的工作机理不太一样。“FakeApp”程序使用人工智能来完成三个主要步骤：对齐，训练和合并。 FakeApp并没有实时将一张脸置于另一张脸上，而是使用了从视频镜头中提取的数百个静止帧图像。它挖掘所有图像的信息，识别脸部，分析它们如何点亮，他们是什么表情等等。 一旦程序了解了正在处理的面孔，它就可以使用所有的“知识”来相互缝合。

虽然deepfakes目前的应用十分粗俗，但是深度的无缝转换仍然鼓舞人心。 根据卡内基梅隆大学MultiComp实验室主任Louis-Philippe Morency博士的说法，如果有足够的发展，那么实时脸部互换可能可以达到与deepfakes类似的效果，发挥积极的作用。他补充，“除了娱乐方面，这项技术还有其他重要的用途。”

举一个例子，Morency博士说，类似的技术可以帮助创伤后精神紧张障碍的士兵与医生进行视频诊疗。一个人在“换脸”之后依然可以表达自己的情绪。 从理论上讲，这将鼓励人们接受治疗，不然他们可能因为感觉上的耻辱而放弃，而且，医生仍然可以从他们的面部表情等获取信息，治疗质量不会受到影响。

Morency博士提到的另一个可能的用途是，在视频面试访谈中使用换脸技术来消除聘用时的性别或种族偏见。 但是，对于这些应用领域，研究人员需要更多的数据，像FakeApp这样的开源程序可以帮助创建这些数据。“推进AI的方法是共享代码和数据，这是人工智能研究的助推器。”

但事情可能变得更糟

与许多新兴技术一样，最可怕的部分往往是不可预料的。 当Facebook首次在大学校园推出的时候，很少有人会想到它会成长成一个多媒体巨头，而且还可能会破坏美国民主，但是现在我们知道了。

就像Facebook上困扰很多人的“假新闻”一样，deepfakes可能代表的是互联网又一次破坏我们共同现实的能力。如果每个视频剪辑都可能是假的，那我们凭什么相信事情是真实的？

你未出生的孙子可能会回你一句：“夺宝奇兵？你是说尼古拉斯·凯奇演的那部电影？”