奥巴马怼川普,杨幂替朱茵演黄蓉…AI换脸的争议

奥巴马怼川普,杨幂替朱茵演黄蓉…AI换脸的争议

历史教师王汉周 欧美女星 2019-02-27 23:20:14 1743


你准备先看哪篇热文明朝那些事儿讲的历史是真的吗 慕容复要恢复的大燕国有多奇葩极简中国游牧民族史古代一两银子值多少钱国外历史书吹水的现象很严重我们为什么要放弃永生



今天老王在网上看到一些让人大跌眼镜的视频片段。

前任美国总统奥巴马,在一则采访中公开说现任总统特朗普是笨蛋?


神奇女侠的扮演者Gal Gadot竟然下海出演做了AV的女主角?


维密也这么重口味了?


俗话说眼见为实,但看完这些,老王真的有些怀疑自己的眼睛……


其实,这些都是用一款叫做deepfakes的换脸程序制作,刚传入国内时,就有不少网友制作过相关的视频

把射雕英雄传里的朱茵


换上杨幂的脸


视频版:


还有把某女主播的脸换成唐嫣


换成迪丽热巴


视频版


再比如金星老师主持的节目也没有放过


换成迪丽热巴的


宋小宝,杨幂版,想怎么换就怎么换


视频版


换脸技术的诞生引起了诸多关注,可关于这项技术的来龙去脉,究竟是怎么回事呢?


01

「deepfakes」的诞生


其实AI换脸技术已经出现一年多,最初是在国外的论坛上,一名叫deepfakes的网友制作出了换脸的机器学习算法,后来被网友编写成方便使用的桌面程序,短短一个月,就有一万多名新用户发布了自己制作的小视频。


渐渐的,原本新奇有趣的小视频交流论坛,渐渐走向了一个“不可描述”的方向

他们把喜欢的女演员换脸到爱情动作片的主演身上,分分钟满足宅男幻想。


比如,美国队长里黑寡妇的扮演者Scarlett Johansson


没过多久,这个“行为大胆”的社区论坛,就被彻底封杀

网站解释称为“禁止色情内容的传播”

论坛关闭,其实只是个开始

最后甚至上了纽约州编号为A08155的法案明确提出:禁止用AI技术制作虚假视频。


换言之,所有出于商业目的且没有征得个人同意制作电影、广告,音乐剧的“数字副本”都是对个人权利的侵犯,任何故意制作这些虚假视频的人都应当被视为欺诈行为,并应该向受害人支付赔偿金。


此法案一出,徘徊在法律边缘的Deepfakes首当其冲


可惜这次法案也没能彻底阻止AI换脸技术的发展,2018年1月,一款名为「FakeApp」的程序正式上线。


研发者称,使用「FakeApp」,只需要一两个目标人物的高清视频, 8 到 12 小时可以制作一条自动换脸的色情影片


「FakeApp」的推出,短时间便让一大批用户加入到这种视频的制作和分享中。



02

夹缝中也要生存


超低的门槛,也将这项技术带向了不可控的方向。

一时间,大批的“名人色情片”争相发布。

部分视频的仿真程度甚至超越了从前的deepfakes


漫威黑寡妇的扮演者Scarlett Johansson


《这个杀手不太冷》的女主角Natalie Portman


《哈利波特》中敏的扮演者Emma Watson


这些视频被放在真实的色情网站上传播,甚至在一个专门泄露名人隐私的网站上,有人上传了一段Emma Watson洗澡的照片,还信誓旦旦地说这是他独家收藏的真实作品。


事实上,只是用换脸技术制作的假视频。


这一行为大大侵犯了他人的肖像权,隐私权。造成的后果无法估量。


虽然吃瓜群众们最喜欢围观这些新鲜有趣的事情,但仔细想想,如果这项技术被用在自己身上,是多么可怕的事情。



03

后果不可想象


新闻表明,已经有国外网友将目标放在了自己身边的人里。


一个名叫“deepfakes”群小组中的用户声称,他们正在利用身边的朋友制作这种“假色情电影”,使用的图片素材,大多来源于ins,facebook等社交平台。


想想看,一个每天和你朝夕相处的同学,同事,朋友……私底下看着用你的脸制作的色情电影,该是多么可怕的一件事……


不仅如此,还有不法分子利用换脸技术,冒充受害者与其家人联系,进行大金额的诈骗。


甚至还有网友,为了报复自己的前女友,制作合成她的假色情电影,发布在社交平台。


这种现象屡见不鲜,甚至有一个共同的称号:「复仇色情」


随着AI技术日趋完善,这种假视频恐怕也会慢慢完善到机器都真假难辨的地步……

随之而来的,是信任的崩塌,以及更多无法预估的损失。



虽然AI换脸技术为我们的生活带来新鲜和趣味,但随之带来的后果,也是不可估量的。


新科技的发展本是好事,可如何更好地与其相处,是每个时代每个社会都需要思考的问题。


取消

感谢您的支持鼓励,我会继续努力的!

文章地址:

用户邮箱:

打赏金额:USDT

点击”去打赏“,即可进行打赏支持本文章哦

发表评论