科技伦理治理路线图出炉，科技企业如何把握创新的新缰绳
发布时间：2022-03-28
文 | 史宇航 汇业律师事务所 顾问
一、背景
2022年3月，中共中央办公厅、国务院办公厅正式印发《关于加强科技伦理治理的意见》，划定了我国未来一段时间科技伦理治理工作的路线图。
相较于2021年7月发布的征求意见稿，正式版本的《关于加强科技伦理治理的意见》更加强调了“坚持依法依规开展科技伦理治理工作，加快推进科技伦理治理法律制度建设”，并且进一步强化了对科技伦理的监管要求。
可以预期，在今后几年我国将陆续完善科技伦理的法律法规与操作指引，这将会对科研型企业的合规工作提出新的要求。科研型企业有必要提前准备，做好合规工作。
二、法律体系
在《科学技术进步法》中，对科技伦理作出了部分原则性的规定：
医疗健康领域较早采用伦理审查制度。《涉及人的生物医学研究伦理审查办法》已经适用多年，国家卫生健康委医学伦理专家委员会办公室与中国医院协会也发布了《涉及人的临床研究伦理审查 委员会建设指南（2020版）》作为指引。
而在算法与人工智能治理层面，科技伦理是一个崭新的课题。2021年九部委发布的《关于加强互联网信息服务算法综合治理的指导意见》要求“企业应建立算法安全责任制度和科技伦理审查制度”，而《互联网信息服务算法推荐管理规定》中亦明确提出“算法推荐服务提供者……不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。”（第8条）
此外，科技部也在2021年9月发布了《新一代人工智能伦理规范》，从管理、研发、供应、使用的全链条对人工智能伦理提出要求。全国信息安全标准化技术委员会（TC260）也在2021年1月发布了《网络安全标准实践指南——人工智能伦理安全风险防范指引》，对研究开发、设计制造、部署应用、用户使用等环节的伦理风险防范提供指引。
三、企业的科技伦理实践
在实践中，科技伦理已经为证券监管部门所关注，成为科技企业在境内IPO需要回答的问题。
如格灵深瞳在上市文件中披露了：
公司的技术委员会下设人工智能伦理审核小组，总体负责公司人工智能技术的伦理规范审查。
制定《人工智能伦理审查管理制度》，明确人工智能伦理审核小组在伦理审核方面的职责。
在技术研发到产品落地的产品生命周期中，公司均履行相应的科技伦理审查程序。如在项目立项阶段，会论证应用场景对人和社会的影响，例如是否符合社会主义核心价值观、是否尊重个人隐私、是否有利社会发展、是否充分保证技术可控、数据安全等。
等等。
奥比中光在其IPO文件中披露：
公司建立了信息安全与数据合规委员会，负责对公司的技术和产品的研发进行安全、可追溯、可追责等法律、伦理方面的审查和监督。
公司定期对员工进行数据安全、个人隐私保护以及人工智能伦理相关的培训，引导员工自觉践行科技伦理原则。
与深圳市人工智能行业协会、旷视、科大讯飞等数十家人工智能企业共同发起首份《新一代人工智能行业自律公约》。
等等。
旷视科技也披露：
公司公布基于企业自身管理标准的《人工智能应用准则》，从正当性、人的监督、技术可靠性和安全性、公平和多样性、问责和及时修正、数据安全与隐私保护六个维度，对人工智能正确有序发展作出明确规范，同时给出相应干预措施或指导意见，确保人工智能能够在可控范围内持续发展。
建立人工智能道德伦理委员会，直接隶属于董事会，主要聚焦于在人工智能的研发及应用过程中，研讨并制定相关伦理道德治理的规章与管理机制。
强化数据治理和合规制度。
采用技术手段解决伦理问题，如率先研发完成的前端图像脱敏方案是目前业内唯一实现在采集端完成人脸图像的不可逆脱敏，且脱敏数据仍可用于算法调优升级的创新技术方案。
率先研发完成的前端图像脱敏方案是目前业内唯一实现在采集端完成人脸图像的不可逆脱敏，且脱敏数据仍可用于算法调优升级的创新技术方案
等等。
四、企业如何开展科技伦理合规
医疗健康、生命科学等行业需要充分评估个人信息保护、算法监管等新兴立法、监管趋势对已有伦理审查科目的影响。比如传统临床研究的知情同意书可能需要在《个人信息保护法》的框架下进行重新评估，关注如何保障受试者作为个人信息主体的各项权利。
另外，随着人工智能、网络系统越来越多地接入到医疗设备中，人工智能与网络系统的安全性与合规性也需要成为考量的因素。近期国家药监局器审中心发布、更新的《人工智能医疗器械注册审查指导原则》与《医疗器械网络安全注册审查指导原则》，将成为医疗健康、生命科学行业开展科技伦理审查新的支点。
医疗健康、生命科学等行业的伦理审查等合规工作开展可能已经有了较为成熟的经验，但对于人工智能行业企业来说，科技伦理要求可能会提出一项新的合规课题，其不仅关系到科研成果能否发表、发布，也将直接关系到投资人、证券监管机构对新技术风险的评估。
同时，合乎科技伦理的产品可能会具有额外的竞争力，比如近年来我们能够越来越多地见到科技产品将自己的隐私保护功能作为卖点。
科技企业作为自身科研过程中科技伦理审查的第一责任人，需要将科技伦理的合规嵌入到自己日常工作中的各个角落，其中可能涉及组织架构、岗位设置与人员选聘、日常培训、研发生产流程、供应链、售后服务等多个方面。此外，鉴于科技伦理的负责性，企业也应当将科技伦理的敏捷治理原则嵌入工作流程，及时动态调整治理方式和伦理规范，快速、灵活应对科技创新带来的伦理挑战。
