要不是视频实在过于违和，说不定许多人根本看不出这又是AI换脸的“杰作”。生成式人工智能的普及，正不断降低语音、面部合成伪造技术的门槛。例如“AI孙燕姿”、“明星脸”直播带货，都说明这一技术正在被大规模的普及应用。在网上，演示AI换脸软件使用方法的教学视频比比皆是，其中许多AI换脸软件只需要支付一定费用，即可得到手把手教学，AI生成的“数字人”如果不依靠外界技术，仅靠肉眼非常难以甄别。只要是一个有基础网络软件使用知识的人，均可借助人工智能工具轻松完成“信息伪造”。

图片来源：中国之声

如今，AI换脸等深度伪造技术已经覆盖了娱乐、媒体、政治等多个领域，AI技术的过度娱乐、滥用，会不会侵犯个人肖像权，或是引起其他问题？本期小强传播将结合已有文献及案例，围绕AI换脸是否侵权，AI换脸技术带来的风险、以及如何对这种风险进行规制进行探讨。

对于“陈建斌多巴胺”事件，有法律界专业人士认为，该行为不仅属于未经授权使用他人肖像，甚至有可能达到丑化他人肖像的程度，属于侵犯他人肖像权行为，甚至会对当事人人格尊严产生负面影响，侵犯其名誉权。《民法典》在第一千零八十一条明确规定了肖像的概念：肖像是通过影像、雕塑、绘画等方式在一定载体上所反映的特定自然人可以被识别的外部形象。在这里，只要是达到可识别程度的外部形象，即可被认作为肖像。此外，第一千零一十九条规定：任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。未经肖像权人同意，肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。这里表明了损害肖像权的两种手段：一是不得丑化、污损、伪造他人肖像，二是不得未经他人允许使用、公开他人肖像。在这次“陈建斌多巴胺穿搭”事件中，网友在当事人未经许可的条件下，通过AI换脸的深度伪造技术手段对其人脸图像进行嫁接，并进行广泛传播，已然构成了侵权行为。

未经当事人同意使用AI换脸技术进行视频合成并传播往往出于不同的行为动机，现存AI换脸视频可以大致分为以下四种类型：政治类、淫秽类、牟利类和娱乐类。政治类一般是出于表达政治诉求对政要人物的面孔进行嫁接或者对微表情进行处理，以此来改变舆论导向。2019年，Facebook上流传一则关于特朗普的假视频，视频中的“特朗普”批评了比利时在气候变化问题上的立场，而实际上这并非特朗普本人。淫秽类则是基于换脸技术将人脸图像嫁接到淫秽视频中以此获取非法营利。牟利类则是通过该种技术对消费者进行欺骗或是诈骗，例如主播替换成“明星脸”直播带货，让粉丝误认为是明星而买单，或是通过AI换脸进行诈骗行为从而获取非法牟利。但在网络中，大部分人往往是出于娱乐消遣的目的将自己或他人的面孔通过AI换脸嫁接到不同的场景中，以此来制造娱乐的视觉效果并在社交媒体平台进行传播，并不存在营利的目的和行为，例如在b站中常见的“鬼畜视频”，其大部分都是通过后期的合成剪辑来完成的二次创作，此类创作者并不一定存在“恶意”，甚至有一些视频通过AI换脸后为当事人带来额外的关注与流量曝光，这难道不值得提倡吗？首先，即使创作者出于非营利性目的进行换脸，但其仍具有主观动机，在未经他人允许下擅自利用AI换脸合成他人肖像进行广泛传播，依然可能会为当事人带来权益受损。其次，AI换脸由于其带有“伪造”这一特殊属性，并不能归纳于技术中立论，更不能直接将其判定为“技术有罪论”，技术无罪，其背后使用技术的人才应该是被问责与规制的对象。

图为某主播换脸成杨幂在进行直播带货

AI换脸是深度伪造的代表技术，除AI换脸外，深度伪造技术还包含音频伪造和其他伪造技术，其他伪造技术从广义来看包含文本伪造和微表情伪造。【2】前段时间在b站爆火的AI孙燕姿，无论是流行歌曲还是民谣，都可轻松驾驭，截至目前，AI孙燕姿至少已翻唱包括粤语、日语、英语、俄语等在内的60余首歌曲。

对此，《中华人民共和国著作权法》明确规定：使用他人已经合法录制为录音制品的音乐作品，再去制作录音制品，可以不经著作权人许可，但应当按照规定支付报酬；著作权人声明不许使用的不得使用。有法律界人士表示，在民法典中，对声音的保护是参照肖像权保护进行的，而对肖像权保护则是明令禁止不允许进行伪造。因此，在歌手本人未经许可的清华下自行用AI进行创造已经涉嫌侵权。在此事件后，该视频平台也更新了规范：在应用生成式人工智能技术时，发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实。同时禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等。

AI换脸技术在快速发展的同时也潜藏着巨大的法律和伦理风险，对该技术进行规制，首先就是要明确服务提供者的主体责任及应尽义务。《互联网信息服务深度合成管理规定》（以下简称《规定》）第二十三条指出深度合成服务提供者，即提供深度合成服务的组织、个人。《规定》第七条和第八条概括了深度合成服务者的主体责任，包括完善平台与创作者的服务协议、建立健全审核制度、制定和公开管理规则和平台公约、履行管理责任、以显著方式提示深度合成服务技术支持者和使用者承担信息安全义务等。此外，依据《规定》第十七条,深度合成服务提供者提供深度合成服务时，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。除对深度合成作品进行显著标识外，还要对未进行明显标识的深度合成作品进行规范整改，根据《规定》第十八条,任何组织、个人不得采用技术手段删除、篡改、隐匿相应的深度合成标识。当检测到信息提供者未对规定的深度合成信息内容进行显著标识时,服务提供者应当立即中止内容的发布,并要求上传者按照规定进行显著标识才能进行公开传播，作为深度合成服务的提供者必须明确其主体责任。

图片来源于网络

AI换脸技术的使用者往往会借助媒体平台对合成作品进行传播，因此，无论是作为服务提供者的内容制作的平台还是作为传播中介的媒体平台,都应该承担相应的责任。媒体平台应不断引进先进技术来提高对深度合成内容的监测能力，目前现存的深度合成内容监测方式主要包括以下三种：一是从人脸固有特征去发现生理特征上的区别；二是从伪造方法出发观察生成对抗网络的固有痕迹或者通过修改卷积神经网络结构来监测是否为伪造视频；三是通过抓住视频内容的时序性来进行伪造监测。但目前来看这些方法在互联网环境中的监测准确率只能达到70%左右，从技术层面仍须不断革新加强。【3】此外，平台还应建立健全深度合成内容的审核机制，如建立一个广泛且多样化的数据库，其中应包含各种深度合成技术生成的样本，利用这些数据集对算法进行训练，以此来提高对深度合成内容的识别准确率，同时建立完善的人工审核和用户举报机制，虽然自动化技术可以提高审核效率，但在面对一些模糊的内容时，专业的人工审核仍是有必要的。平台应承担起相应的管理职责，在发现违法的深度合成类作品时及时中断其传播路径，防止虚假信息的传播。

人脸生物识别信息属于生物信息,具有高度敏感性，AI换脸技术亦是对生物识别信息(敏感信息)的处理应用过程。【1】平台对人脸生物识别信息进行采集、存储过程中，一旦发生技术不可控事件，如操作失误或黑客入侵，则会导致大量的个人生物识别信息泄露,存在较大的生物信息安全隐患。目前，公众对个人生物信息保护的意识过于薄弱，抖音曾发起名为“性别反转”和“看看你80岁的样子”的挑战，该类挑战提供“AI换脸”滤镜，使用后即可看到自己性别转换或衰老后的样子，操作十分简单快捷,目前“性别转换”滤镜的使用次数已超过两千万次。用户出于娱乐休闲的目的,利用AI换脸技术制作短视频,并将其上传至网络,但对于运用AI换脸技术采集自身人脸生物识别信息的过程一无所知,更对其中生物信息采集及泄露的风险毫无察觉。对此，从平台角度来说，平台在进行个人生物信息采集前应确保当事人知情并同意。《规定》第十四条指出，深度合成服务提供者在采集生物识别信息前，应当提示深度合成服务使用者，并取得其单独同意。从使用者个人角度来说，要加强法律意识和个人敏感信息的自我保护意识，了解媒介技术的黑箱运行法则，做出理性判断。

图为抖音APP性别反转挑战入口

目前我国的AI换脸技术正处于高速发展阶段，尽管这项技术在图像处理和娱乐领域有许多正向应用，但仍存在技术滥用、传播虚假信息和侵犯隐私等潜在风险。要加快开发技术规范的法律法规，界定新技术带来的边界模糊，预防这项技术对社会信任的冲击，建立健全核查处理机制，找到用户个人信息安全和技术发展的平衡点，让我们可以更好应对新技术的挑战。

编辑/排版：刘   璇

审核：杨雨欣

指导老师：张小强

图片源自网络 侵删