今天老王在网上看到一些让人大跌眼镜的视频片段。

前任美国总统奥巴马，在一则采访中公开说现任总统特朗普是笨蛋？

神奇女侠的扮演者Gal Gadot竟然下海出演做了AV的女主角?

维密也这么重口味了？

俗话说眼见为实，但看完这些，老王真的有些怀疑自己的眼睛……

其实，这些都是用一款叫做deepfakes的换脸程序制作，刚传入国内时，就有不少网友制作过相关的视频

把射雕英雄传里的朱茵

换上杨幂的脸

视频版：

还有把某女主播的脸换成唐嫣

换成迪丽热巴

换脸技术的诞生引起了诸多关注，可关于这项技术的来龙去脉，究竟是怎么回事呢？

其实AI换脸技术已经出现一年多，最初是在国外的论坛上，一名叫deepfakes的网友制作出了换脸的机器学习算法，后来被网友编写成方便使用的桌面程序，短短一个月，就有一万多名新用户发布了自己制作的小视频。

渐渐的，原本新奇有趣的小视频交流论坛，渐渐走向了一个“不可描述”的方向

他们把喜欢的女演员换脸到爱情动作片的主演身上，分分钟满足宅男幻想。

比如，美国队长里黑寡妇的扮演者Scarlett Johansson

没过多久，这个“行为大胆”的社区论坛，就被彻底封杀

网站解释称为“禁止色情内容的传播”

论坛关闭，其实只是个开始

最后甚至上了纽约州编号为A08155的法案明确提出：禁止用AI技术制作虚假视频。

换言之，所有出于商业目的且没有征得个人同意制作电影、广告，音乐剧的“数字副本”都是对个人权利的侵犯，任何故意制作这些虚假视频的人都应当被视为欺诈行为，并应该向受害人支付赔偿金。

此法案一出，徘徊在法律边缘的Deepfakes首当其冲

可惜这次法案也没能彻底阻止AI换脸技术的发展，2018年1月，一款名为「FakeApp」的程序正式上线。

研发者称，使用「FakeApp」，只需要一两个目标人物的高清视频， 8 到 12 小时可以制作一条自动换脸的色情影片

「FakeApp」的推出，短时间便让一大批用户加入到这种视频的制作和分享中。

超低的门槛，也将这项技术带向了不可控的方向。

一时间，大批的“名人色情片”争相发布。

部分视频的仿真程度甚至超越了从前的deepfakes

漫威黑寡妇的扮演者Scarlett Johansson

《这个杀手不太冷》的女主角Natalie Portman

《哈利波特》中敏的扮演者Emma Watson

这些视频被放在真实的色情网站上传播，甚至在一个专门泄露名人隐私的网站上，有人上传了一段Emma Watson洗澡的照片，还信誓旦旦地说这是他独家收藏的真实作品。

事实上，只是用换脸技术制作的假视频。

这一行为大大侵犯了他人的肖像权，隐私权。造成的后果无法估量。

虽然吃瓜群众们最喜欢围观这些新鲜有趣的事情，但仔细想想，如果这项技术被用在自己身上，是多么可怕的事情。

新闻表明，已经有国外网友将目标放在了自己身边的人里。

一个名叫“deepfakes”群小组中的用户声称，他们正在利用身边的朋友制作这种“假色情电影”，使用的图片素材，大多来源于ins，facebook等社交平台。

想想看，一个每天和你朝夕相处的同学，同事，朋友……私底下看着用你的脸制作的色情电影，该是多么可怕的一件事……

不仅如此，还有不法分子利用换脸技术，冒充受害者与其家人联系，进行大金额的诈骗。

甚至还有网友，为了报复自己的前女友，制作合成她的假色情电影，发布在社交平台。

这种现象屡见不鲜，甚至有一个共同的称号：「复仇色情」

随着AI技术日趋完善，这种假视频恐怕也会慢慢完善到机器都真假难辨的地步……

随之而来的，是信任的崩塌，以及更多无法预估的损失。

虽然AI换脸技术为我们的生活带来新鲜和趣味，但随之带来的后果，也是不可估量的。

新科技的发展本是好事，可如何更好地与其相处，是每个时代每个社会都需要思考的问题。