汇业评论

文 | 王小敏 夏强 汇业律师事务所

深度合成技术（Deep Synthesis）是人工智能领域的一项重大突破，目前已渗透于互联网信息领域的各个方面，并充当着新一轮产业变革的核心驱动力。[1]AI换脸、NFT生成艺术、虚拟演唱会、虚拟数字人等元宇宙的重要组成部分都属于深度合成技术的具体应用。这些应用场景利用深度学习、虚拟现实等合成类算法，延伸出面部替换、表情操纵、语音合成等技术分支，并最终达到生成虚拟面容特征、人物形象等效果。

但应当认识到的是，深度合成技术在支持正向应用的同时，也为我们带来新的安全风险。深度合成技术的门槛愈发降低，呈现出“平民化”的趋势，即普通人也可以利用简单方便的软件或工具，制作出真假难辨的合成内容。[2]若非法使用深度合成技术，将导致传播违法和不良信息的乱象，对社会信任、媒体信任、政治信任造成冲击，更会对个人和企业合法权益、社会利益及国家安全造成威胁。

我国目前司法实践中，因深度合成技术引发民事侵权、行政违法甚至刑事犯罪的不法现象频频发生。这也引起了立法层面对相关问题的高度重视，《互联网信息服务深度合成管理规定》（以下简称“《深度合成规定》”）因此应运而生，用以回应算法推荐、深度伪造等新技术应用的现实需求。

一、深度合成技术的法律风险

社会学家乌尔里希·贝克认为，当代社会已经是一个风险的社会，且最大的风险即为技术风险。根据《深度合成规定》所作定义，“深度合成技术”是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不限于文本内容生成、语音内容或非语音内容生成、影像内容中生物特征或非生物特征生成，以及数字人物、虚拟场景生成。深度合成技术可能导致的法律风险，主要包括其天然存在的信息泄露，以及因技术特性衍生而成的生成物不法性风险。

（一）信息泄露风险

深度合成技术依托于“生成式对抗网络”（GAN）和“自动编码机”，通过对海量信息的搜集、存储和学习，来创造、模拟或合成新的内容。在大数据时代，深度合成技术可以将社会上各个领域的信息予以数据化、可视化，并通过数据画像进行精准投放和营销。在技术运作过程中受影响程度最大的，当属包含面容、声音等个人生物特征的生物识别信息，由于这类信息具有唯一对应性、不可变更性等特征，相较其他类型的个人信息更具敏感性，一旦被泄露将难以补救或更改。[3]但深度合成技术的运用模式恰是“生物特征数据化”，其利用抓取技术捕捉现有数据中包含个人神态、音色音调等生物特征的个性化信息，并在产出合成物之后继续保留在数据库中，借此实现“二次拟合”的技术目的。若该等数据的存储介质出现技术漏洞或被黑客强行入侵，势必导致各类信息数据在整个网络系统中曝光和扩散，被迫卷入信息风险的“洪流”，威胁并损害该等信息所蕴含的巨大财富价值。

（二）生成物不法性风险

当深度合成技术被滥用于商业化场景时，带有个人生物特征的面容、语音等技术生成物极有可能成为侵权或违法犯罪的“利器”。以深度合成换脸技术（AI换脸）为例，2020年以来，市场上涌现出一批以“AI换脸”为主打功能的智能编辑和处理应用（例如“ZAO”、“DeepFaceLab”、“Face2Face”等），并风靡全国乃至全世界。这些应用实现技术生成的途径有二：其一，根据使用者直接上传的图片、影像，通过深度合成技术映射于另一载体，并生成新的数字人物；其二，通过“爬虫”技术，在互联网中海量抓取包含个人生物特征的图像、视频内容，并根据使用者的筛选和设置，生成虚拟形象。[4]这些技术生成物，在通常情况下可能涉嫌对其他主体肖像权的侵犯，例如在杭州互联网法院近日审理的“AI换脸案”中，A公司未经楼某某同意，通过技术手段提取涉案古风肖像视频，并擅自上传至其运营的换脸App中供用户选择使用，该行为本身已侵害楼某某肖像权。同时，涉案视频模板被用户多次使用和收藏，可以认定A公司利用深度合成技术将其他用户提供的人脸替换至涉案视频中的身体形象上，并生成形象逼真、画面流畅的伪造肖像视频，可供用户进行下载保存、发布共享等不当使用。据此，法院认为A公司未经楼某某同意，利用深度合成技术使用其肖像制作了伪造视频，依法应认定构成对楼某某肖像权的侵害。[5]

除民事侵权风险外，深度合成技术生成物的不法风险，也同样存在于行政或刑事违法领域，例如我国近年来涌现出一批以“AI换脸”技术为手法，通过“装亲戚”、“套近乎”等方式实施的财产诈骗犯罪，造成了大量被害人的财产损失，严重威胁个人安全和社会稳定。[6]

二、深度合成技术的合规义务框架

深度合成技术产业链条的主要参与者包括深度合成技术服务提供者、服务使用者和技术支持者。《深度合成规定》对上述三种主体的合规义务采用了“横纵交织”式的交叉立法模式，具体来说，既根据主体身份地位差异区分出“类型化”合规义务，又根据不同主体在产业链条中的转承关系建立起“对应型”合规义务。

三、结语

《深度合成规定》的出台是我国网信立法领域的又一规则成果，通过明确深度合成服务提供者、服务使用者和技术支持者的合规义务，构筑起了深度合成服务活动与其他互联网安全、数据安全及信息安全法律法规之间的通行桥梁，有利于网信、工信等部门加强对新技术、新应用、新业态的监管，促进深度合成技术及配套产业依法合规发展。

互联网、AI人工智能等相关数字产业主体应根据《深度合成规定》等相关规范及标准，及时检视自身业务是否涉及深度合成技术及相关服务，再行辨明自身属于何种义务主体，并根据《深度合成规定》及时建立、健全相关合规管理机制，规避行业风险，以合规运行赢得经营优势。

参考资料

[1]参见腾讯研究院、腾讯优图实验室：《AI生成内容发展报告2020——“深度合成”（deep synthesis）商业化元年》。

[2]参见周杰：《专家解读｜加速推进深度合成服务规范化》，中国网信网[2022-12-13]（https://mp.weixin.qq.com/s/tlfLMh1lMY-kLmoF-FKysQ）；万志前、陈晨：《深度合成技术应用的法律风险与协同规制》，载《科技与法律（中英文）》，2021年第5期。

[3]参见赵淑钰：《生物识别信息法律规制的国际经验与启示》，载《网络空间战略论坛》，2019年第11期。

[4]参见万志前：《深度合成技术应用的法律风险与协同机制》，载《科技与法律（中英文）》，2021年第5期。

[5]参见最高人民法院司法案例研究院：《“AI换脸”乐趣多？当心侵权！法院判了》[2022-12-13]（https://mp.weixin.qq.com/s/SLcLZ_2aO0eAn2R4qlsr3Q）。

[6]法制现场：《警惕！新型“AI视频换脸”诈骗，检察官提醒……》[2022-5-27](https://baijiahao.baidu.com/s?id=1733975692675283675&wfr=spider&for=pc)。