AI标识新规征求意见：千层浪，待激起
发布时间：2024-10-10
文 | 史宇航 汇业律师事务所 合伙人
一、背景
近年来，AI技术继续高歌猛进，采用AI生成的视频、声音、文字提供的网络已经越来越普及，在搜索结果中加入AI来总结已经成为标配，图片软件也往往伴随着AI修图，AI生成视频的能力也越来越强大……在这样的背景下，各国对AI的治理可能各有侧重，但不约而同选择将AI生成物的标识作为一项重要的合规义务，即对AI生成的内容进行专门提示，以区别于人的创作。
欧盟《人工智能法案》就规定了要确保人工智能生成合成内容的透明度义务，要求平台添加强制性水印。在美国白宫发布的《安全、可信赖的人工智能发展和使用行政命令》中，表明美国政府将帮助开发“有效的标签和内容来源机制”，以便公众能够识别内容是否由AI生成。美国加州2024年8月发布《数字内容溯源标识法案》，也要求在人工智能生成物中嵌入可溯源数据，以确保内容来源的透明度。我国也在《互联网信息服务深度合成管理规定》中要求对可能导致公众混淆或误认的深度合成内容进行标识提示。
看起来对AI生成内容进行标识几乎成为了各国监管的共识。在此基础上，网信办发布了《人工智能生成合成内容标识办法（征求意见稿）》以及配套的强制性国标《网络安全技术 人工智能生成合成内容标识方法（征求意见稿）》（统称“AI标识征求意见稿”），开始探索AI内容标识的具体操作方法。
二、谁来标识
AI标识征求意见稿将标识的责任主体设定为“网络信息服务提供者”，这意味着监管的方向会是通过互联网提供AI生成内容的行为，比如聊天机器人、修图/换脸App、在线客服等等。
问题在于，当前AI生成内容虽然需要消耗大量算力，但并不是特别夸张，消费级显卡也可实现AI生成图/文/视频的功能，很多情况下流行的AI生成内容其实是基于开源大模型在计算机本地运行生成的，但这部分内容本身并不在我国相关法规的管辖范围之内。
用户借助本地设备借助开源大模型生成的AI内容，只有到了互联网平台的传播环节，才会受到法律的管辖。《人工智能生成合成内容标识办法（征求意见稿）》第6条要求“提供网络信息内容传播平台服务的服务提供者应当采取措施，规范生成合成内容传播活动，”还要对疑似AI内容进行提示。第10条第1款规定：“用户向提供网络信息内容传播平台服务的服务提供者上传生成合成内容时，应当主动声明并使用平台提供的标识功能进行标识。”
因此，平台对AI内容的识别能力就显得至关重要。因为关键问题是如果用户没有主动标识，平台能否有效识别AI生成内容？如果识别不了，依据什么原则承担责任？一个能够想象的案例是用户通过AI工具生成内容，假装是非AI内容上传到平台，平台未能有效识别，结果导致其他用户将AI内容信以为真导致权益受损，那么该情况下平台是否需要承担未能尽职审核的责任，平台该如何证明自己已经尽到审核义务，都是有待解决的问题。
三、重要的用户协议
用户协议本就是平台与用户之间的桥梁，连接的是二者之间的法律关系，本就有着明确权利义务、知识产权归属、争议管辖的职能。而在AI平台，用户协议的地位将更加重要。
《人工智能生成合成内容标识办法（征求意见稿）》第9条允许用户请求取消标识，但《互联网信息服务深度合成管理规定》第18条规定了任何组织和个人不得采用技术手段删除、篡改、隐匿深度合成标识。相关规定如何衔接，标识能否取消，有待后续正式稿予以进一步澄清。
四、怎么标识
这里我无意大篇幅重复征求意见稿里面本就清晰的内容，技术细节可以等到正式稿中再仔细研究如何落地，这里仅简单归纳：1）标识分为显式标识和隐式标识；2）针对不同的AI生成场景，标识方法也进行了细化的规定：
在实践中，抖音早在2023年5月就发布了《关于人工智能生成内容标识的水印与元数据规范》 （https://bbci.magich5page.com/magic/eco/runtime/release/645907a43592e704dcc222be?）并发布了相关倡议，小红书也会主动甄别AI创作的内容，微信也要求发布使用AI等技术生成的信息时，必须标注内容为AI制作。种种标识方案，不一而足。
五、标识的应用
AI生成内容的标识要求会让AI文件不仅被加上水印，更会加入更多的元数据，这会让AI生成内容更容易被溯其根源。通过水印（显式标识）或元数据（隐式标识），会更容易发现原作者是谁，使用何种AI工具处理。
在AI时代的法律纠纷中，电子数据会更频繁地被作为证据使用，对AI生成内容及元数据的提取、鉴定、举证、质证都将成为新的课题，如何围绕AI生成内容构建证据链，确保证据的真实性、合法性、关联性都将会是新的课题，甚至会成为新的常识。生成式AI让伪造内容变得更加容易，而对标识的理解与使用将是鉴真过程中的着力点。
AI生产内容的影响才刚刚开始发酵，法律法规与技术方案就已经开始布局，在这样的局面下，我们期待这样的这些监管方案会把AI技术带往何处，也期待着AI技术会把社会带往何处。
