汇业评论

文 | 史宇航 汇业律师事务所 顾问

一、背景：箭在弦上的算法监管

随着人工智能与大数据技术的普及，营销活动中算法的运用已经越来越频繁。但基于算法的精准营销活动往往容易触达违法的雷区，千人千面的画像极容易导致价格歧视，进而损害企业声誉。随着算法所导致的问题越来越多，法律法规与监管部门也开始日益关注算法的监管问题。

2021年9月，国家网信办等九部委联合发布了《关于加强互联网信息服务算法综合治理的指导意见》，为未来数年的算法监管制定了框架，提出“利用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局”，并且提出要构建算法安全风险评估与算法备案机制，作为后续算法监管的基础框架。

在这样的背景下，上海市市场监督管理局在2021年11月发布了《上海市网络交易平台网络营销活动算法应用指引（试行）》，并于发布当日开始实施。虽然该指引的规制对象是上海辖区内的网络交易平台，而不包括上海以外或非网络交易平台，但是该指引所提供的标准超越了宣示性的口号，具有较强的可操作性。因此，该指引可以作为开展营销活动算法合规的示例答卷，具有较高的参考价值，值得引起各方的重视。

二、算法营销的合规矩阵

《上海市网络交易平台网络营销活动算法应用指引（试行）》中，围绕着营销与销售活动主要设置了以下合规要点：

《上海市网络交易平台网络营销活动算法应用指引（试行）》以决策结果公平公正、差别待遇、公平参与市场竞争、弱势群体保护为基本原则，贯穿交易与筹划交易活动中可能涉及算法决策的各个环节，实现了全流程覆盖，并从管理体系、透明度、投诉处理、索赔处理等维度提供合规管理的指引。

三、自动化决策的细节问题

通过算法进行营销离不开个人信息的处理，因此《上海市网络交易平台网络营销活动算法应用指引（试行）》对《个人信息保护法》中的自动化决策条款进行了细化，进一步厘清了自动化决策的合规要求：

四、用户画像的红线

用户画像是数字化营销的核心，企业希望通过各种维度给每一个消费者打上标签，以期待能够更好地与消费者进行沟通并向消费者提供更符合需求的广告。在画像的过程中，企业不仅希望从自己已经掌握的数据维度中为消费者充分画像，也希望能够从外界获得更多的标签以丰富用户画像。由此，标签的价值可见一斑。

《上海市网络交易平台网络营销活动算法应用指引（试行）》要求不得使用有违社会公德、歧视性、偏见性用户标签。这意味着标签本身需要经过审核，不能包含以下内容：

• 使用含有淫秽、色情、赌博、迷信、恐怖、暴力的内容

• 使用含有表达对民族、种族、宗教、残疾、疾病、性别歧视的内容

• 使用含有其他有违公序良俗的歧视性、侮辱性文字的内容

如果企业希望借助外部数据丰富已有消费者的标签维度，也需要对外部的标签内容是否有违社会公德，以及是否具有歧视性或偏见性进行审核。此外，通过加密方式使用“数据对撞”从外部获取标签还可能会涉及从外界获取个人信息（购买数据），需要特别关注个人信息获取方面的合规风险。

五、交易价格的风险暴露面

交易价格的差异是算法使用过程中风险暴露面最高的事项。企业为了追求利润最大化进行的差异化定价，往往会成为“价格歧视”“大数据杀熟”的证据。

顾客可能不易察觉产品的推荐顺序或广告内容，但会对价格非常敏感。在媒体报道中，不时会有消费者发现看到自己的价格与亲友看到的价格不同，进而引发纠纷。比如某出行平台对平台内销售的酒店差异化定价，导致顾客在开具发票时发现被多收房费，进而被绍兴柯桥法院判决要求平台“退一赔三”，并为APP增加不同意服务协议和隐私政策时仍可继续使用的选项。

因此，《上海市网络交易平台网络营销活动算法应用指引（试行）》第9条建议，企业不得对消费者在交易价格、交易机会等交易条件上实行不合理的差别待遇，除非具有以下条件之一：

• 基于消费者实际需求，且符合正当的交易习惯和行业惯例，实行不同交易条件；

• 基于针对新用户在合理期限内开展的优惠活动；

• 基于平台公平、合理、无歧视的规则实施的随机性交易；

• 基于保障弱势群体利益和安全而作出的限制或差异性对待；或

• 其他能够证明行为具有正当性的理由。

以上事项不仅是企业定价时的指引，也可以成为合规的依据，如果企业有证据证明是按照上述要求进行定价，就可以为自己的差异化定价找到依据。

六、算法合规治理内容

算法合规管理体系是算法合规工作的基石。《关于加强互联网信息服务算法综合治理的指导意见》中要求“企业应建立算法安全责任制度和科技伦理审查制度，健全算法安全管理组织机构，加强风险防控和隐患排查治理，提升应对算法安全突发事件的能力和水平。企业应强化责任意识，对算法应用产生的结果负主体责任。”

在《上海市网络交易平台网络营销活动算法应用指引（试行）》中，建议：

• 建立算法应用合规管理制度

• 设置算法安全管理机构或专职人员

• 开展算法应用的风险防控和隐患排查机制

• 设置算法突发事件处置应急预案

• 通过算法合规评估避免算法应用引起社会公平、道德伦理、个人信息安全、网络安全等方面的风险

可以预期，后续法规也可能会对企业提出类似的要求。尽管目前算法合规管理体系方兴未艾，但已经开始为部分人工智能企业所采用。比如近期某赴港上市的人工智能企业，就建立了人工智能伦理委员会：

我们的人工智能伦理委员会领导负责任及可持续的人工智能举措。人工智能伦理委员会由六名成员组成，包括两名外部顾问（其等为人工智能伦理领域的学术专家）及四名高级管理层成员。我们的人工智能伦理委员会负责确定及实施人工智能伦理相关原则、战略及政策。其调动内部资源并与外部主要利害关系者沟通，以审查我们在人工智能伦理方面的实操并提供建议，以确保相关运作的专业性、中立性及客观性得到遵守。

另一家在境内上市的人工智能企业也建立了自己的人工智能委员会，并成立AI治理研究院。

合理呈现工作成果是合规工作的重要环节。发生争议时，企业内部的规章制度、岗位设置、风险评估文件、培训材料等都可以作为合规的证明文件，从而实现免责或减轻责任的效果。一些顶尖的人工智能企业还会专门撰写白皮书，分享自己在人工智能治理领域的经验。

七、算法透明

算法透明是AI伦理中重要的组成部分，大家希望通过提升算法的透明度来对抗算法黑箱所带来的不确定性。但算法如何提升透明度始终是一个问题，开放源代码的方式可能也无法真正解释算法且会暴露企业的商业秘密。

在《新一代人工智能伦理规范》中，国家新一代人工智能治理专业委员会提出“在算法设计、实现、应用等环节，提升透明性、可解释性、可理解性、可靠性、可控性，增强人工智能系统的韧性、自适应性和抗干扰能力，逐步实现可验证、可审核、可监督、可追溯、可预测、可信赖”，可见算法透明度的提升还处于摸索阶段，目前并没有通行的方式能够真正实现该目标。

近期，美团专门发布文章解释自己的外卖配送“预估到达时间”算法规则，微博也专门发文解释搜索热度、讨论热度、传播热度热搜榜单究竟是如何形成的，字节跳动也曾专门举行活动对推荐算法的原理进行说明。这些解释都起到了一定的效果，引发社会的讨论，但这样的说明活动具有偶发性，并未形成机制。

《上海市网络交易平台网络营销活动算法应用指引（试行）》效仿隐私政策提升数据处理透明度的思路，建议企业能够通过文字形式对算法的以下事项进行说明：公开算法原理、目的意图、决策规则、可能产生的影响等信息。或许在以后的隐私政策中，信息处理者会加入专门的算法解释章节，对所使用自动化决策机制进行说明。

更进一步，企业甚至可能需要订立专门的算法政策，完整地说明算法运行机制。算法政策可能会与隐私政策一样，成为用户在使用产品（服务）前必需点击同意的事项。

八、企业如何开展算法合规工作

随着人工智能、大数据等技术的普及，营销领域的智能化程度日益提升，品牌方、平台方不可避免地在越来越多的场景下使用算法。根据我们服务相关企业的经验，我们建议在使用算法时：

• 梳理算法使用的场景，充分掌握公司哪些场景下会使用算法，比如是否会进行消费者画像、根据数据分析发送营销短信和优惠券，等等。

• 对个人信息的来源进行审核，确保算法使用的个人信息处理活动全程合法合规。

• 公司如果使用外部第三方提供的算法，需要在合同中明确第三方在处理数据时的法律地位，是技术提供方、共同处理、受托处理或接收公司提供的数据自行处理，并且需要对算法“生成物”的归属进行明确约定。

• 公司如需要对用户画像，需要对标签内容是否合法合规进行审核。

• 公司如果需要进行差异化定价，法务部门应当审核差异化定价是否具有正当理由。公司在计算交易价格的过程中，也不得实施虚构原价、虚假优惠折价等行为。

• 公司如果需要基于画像信息向消费者发送广告或促销信息，应当提前获得消费者的同意。产品后台需要允许消费者自行选择是否接收个性化广告，并提供拒绝继续接收的方式。公司不应对消费者行使拒绝接收的权利这一行为设置障碍、收取费用或设定有效期限。

• 对于算法的供应商或平台方，我们建议以更加透明的方式，如发布白皮书、算法声明或算法政策向品牌方与公众解释算法的运作机制，说明哪些参数可能产生影响。

• 平台方与算法供应商有必要完善自己的算法合规管理制度，搭建能够有效运行的AI伦理委员会，将算法伦理贯穿于产品与服务中。