《上海市促进人工智能产业发展条例》的10个关键词

■文/陈吉栋

《上海市促进人工智能产业发展条例》是上海市三大先导产业的第一部全市性法规，也是上海市在人工智能高地建设中攀登的又一座新的高峰，为我国人工智能地方立法树立了新的标杆。

2022年9月22日，上海市第十五届人民代表大会常务委员会第四十四次会议通过了《上海市促进人工智能产业发展条例》（以下简称《条例》），并于2022年10月1日起施行。《条例》共分6章72条，核心章节是基本要素与科技创新（第二章）、产业发展（第三章）、应用赋能（第四章）和产业治理与安全（第五章）。这部条例有诸多亮点。总体来看，体例安排上将基础要素单独规定。具体来看，重视基础要素的流通，强调应用赋能和场景开放运营，构建了一个较为完备的治理框架等。《条例》是上海市三大先导产业的第一部全市性法规，也是上海市在人工智能高地建设中攀登的又一座新的高峰，为我国人工智能地方立法探索树立了新的标杆。本文选取了10个关键词，揭示条例的不同面向，方便读者对《条例》形成整体认知。

1 人工智能定义：界定变动不居的技术

《条例》第二条界定了人工智能的概念和人工智能产业的内涵。

该条规定：“本条例所称人工智能，是指利用计算机或者计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。本条例所称人工智能产业，是指人工智能技术研发和应用所涉及的软硬件产品开发和生产、系统应用、集成服务等，包括关键基础元器件产业、智能软件产业、智能终端产业，以及人工智能技术在经济、生活、城市治理等领域融合应用带动的相关行业。”

在起草过程中，关于概念界定专家团队曾有一种设想，即不界定人工智能，直接界定人工智能产业。即便一定要界定人工智能的概念，也有一个基本共识，即概念的界定不应过于技术化，可以采取从目的或者功能角度进行界定的方法。无论是界定人工智能，还是界定人工智能产业，采取描述加列举的综合方式可能更方便认知。这些观点在《条例》中部分被采纳。

2 定位：认识产业发展条例与人工智能条例的区别

经常有人拿欧盟的《人工智能法》提案（AIA）与《条例》进行对比，指出《条例》的优缺点，这种比较在某种程度上反映了评论者对《条例》的期许和肯定。在对比中一个经常被提及的问题是《条例》关于产业治理的规定似乎弱于AIA。这一问题涉及《条例》的基本定位。

首先，应该正确认识“人工智能产业发展条例”与“人工智能条例”的区别。AIA给我们的提示在于，在聚焦产业发展措施的同时，设计复杂的监管制度大致是行不通的，至少在现有的篇幅内是行不通的。《条例》的主旨恰是促进产业发展。

在起草过程中，关于条例名称的几次讨论可以作为理解这一问题的背景。被讨论的名字有“上海市人工智能条例”“上海市人工智能产业条例”“上海市人工智能产业发展条例”，讨论的核心是我们到底是制定产业发展条例还是人工智能条例。无论选取哪个名字，促进产业的发展一直是这个条例的核心目的、基本理念和价值追求。由于有《上海市数据条例》珠玉在前作为参考，如果定位是人工智能条例,则其范围至少应该涉及不同主体的权益配置和法律责任，而不应限于产业。最后起草者选择了“产业发展条例”这一名称，这样选择的理由有很多，在此不再展开。

其次，如果客观分析《条例》的全文就会发现，治理的内容与规则设计其实不限于治理这一章，在第二章基本要素与科技创新等章节均有相关内容。换句话说，条例不但没有放弃产业治理，而且其所确立的产业治理的基本框架是较为完备的。

最后，需要提及的是在人工智能上海高地建设中，尤其是制度供给高地的建设中，《条例》一方面是一个集大成的制度成果，另一方面又是一个生发具体制度的规范母体。换句话说，《条例》应该是未来上海市人工智能规则体系的“母法”。我们有理由相信，在《条例》实施后，更多更为具体的规定将陆续制定颁行，与《条例》一起构成引导、规范与保障上海市人工智能产业发展的制度体系。

3 充分供给：从要素到场景

要素的调配和市场化供给是产业发展的基本保障。专家在《条例》起草过程中花了大量的时间和精力进行调研与讨论，以便设计以市场为主导且可以保障科学供给的要素制度。《条例》很多制度设计聚焦于此。例如，第十三条规定：“市经济信息化部门应当会同市发展改革、科技等部门制定公共算力资源供给办法，推动公共算力资源平台建设与利用，……保障中小企业获得普惠的公共算力。”又如，第十八条规定：“……扩大面向人工智能产业的公共数据供给范围。支持相关主体单独或者联合申请公共数据开放，保障中小企业、个人开发者等公平使用开放数据。……推动人工智能产业数据流通交易。”

算力供给制度是一个颇具上海特色，同时也契合国家“东数西算”的创新。虽然这一制度的效果还有待观察，但可以确定的是，无论是算力，还是算法或数据，供给即服务。有了这种服务的提供甚至是高质量提供，才有产业的全面健康发展。

《条例》在数据方面的规则数量较少，但与之前的《上海市数据条例》相比创新度颇大。在公共数据方面支持相关主体单独或者联合申请公共数据开放，就是创新的典型。这是对公共数据开放制度的深化，同时也可能影响后续出台的公共数据开放办法的具体设计。

在应用场景方面，对保障并提升供给也有所体现。例如，第五十六条规定：“探索应用人工智能技术丰富教育资源供给，建设智能化开放教育资源平台。”

4 要素开放运营：流动创造价值

在保障充分供给的基础上，《条例》进一步强化基础要素的流通利用。围绕智能芯片、框架软件与系统软件、智能机器人、智能网联汽车等重点产业方向，《条例》聚焦数据、算法与算力等基础要素的供给与市场化配置，进行了较为周全的制度设计。例如，第十三条规定：“本市推动算力、数据、应用资源集约化和服务化创新，保障人工智能产业发展算力需求。”又如，第十六条规定：“本市推动算法模型交易流通。”再如，第十八条规定：“本市依托公共数据开放机制，……鼓励企业通过上海数据交易所开展相关数据产品的交易，合法合规创造数据价值、分配数据增值收益，推动人工智能产业数据流通交易。”

这些制度设计有助于释放市场潜能，激发产业活力，引导人工智能产业健康持续发展，巩固、扩大上海在人工智能产业上的优势地位。

开放与运营在应用赋能中也有体现。一般来说，安全、高效的社会应用将极大地扩展人工智能的社会应用需求，支撑人工智能产业的发展。社会应用需求本身依赖于多样、规模应用场景的建设。为此，《条例》积极推动场景的培育、开放与运营，支持人工智能在经济、生活和城市治理中的规模化应用。例如，第四十八条规定：“本市建立人工智能应用场景开放制度。……参与人工智能应用的相关主体应当推动应用场景优化升级与持续运营。鼓励第三方服务机构、金融机构等多元主体参与人工智能场景建设和运营。”如此的制度设计支撑了应用的赋能作用，促进人工智能在千行百业中的应用，客观上也为数字经济发展、城市的数字化转型提供新的动能。

5 综合监管：以风险为中心的分级监管

《条例》第六十五条规定：“对高风险的人工智能产品和服务实行清单式管理，遵循必要、正当、可控等原则进行合规审查。对中低风险的人工智能产品和服务采用事前披露和事后控制的治理模式，促进先行先试。具体办法由市人民政府另行制定。”

无论上海市还是深圳经济特区的人工智能条例，虽然都确立了分级监管，但并未展开进行更为具体、明确的制度设计。原因是分级监管制度设计的核心在于不同主体的权益配置，在我国的立法体制下，属于中央事权的范畴，地方立法探索的空间有限。另外，两地立法都具有浓厚的产业立法的特征，治理法的成分不足，这是有意为之的理性选择。

《条例》确立分级治理的意义是，我们面对一个监管者与被监管者可能都处于无知状态的变动不居的高科技领域，第一次提出了完整的监管框架——根据风险进行分级治理。

《条例》的分级治理具有自身的特点：第一，与欧盟相较，分级数量少，只分高风险和中低风险，而欧盟四级划分中的其他两级则用其他制度予以调整；第二，两级的基本治理制度不同，即对高风险采取清单式管理，事前为主，力推合规，而对中低风险则以事后为主。风险级别如何判断、清单如何制定等都需要将来市政府制定更为具体的规定。

6 认证与备案：某些高风险制度设计

《条例》第六条第五款规定：“市市场监管部门负责人工智能产业计量、标准、检验检测、认证认可、相关产品质量监督等工作。”这里在职责分工中将认证作为市场监管部门的职责之一。虽然《条例》并未以专条设置认证制度，但未来对高风险的人工智能系统开展认证仍有可能。参考域外立法的情况和理论研究成果，有效的认证制度设计至少包括认证机构设置、认证流程设计和认证方法备置等部分，这需要在后续立法中与市场监管部门进行妥善协调，并深入理解人工智能系统进入市场的既有实践。关于认证制度，不仅可以参考欧盟AIA的具体规定，还可考察美国的认证体系的设计。

7 评估：为了更好的发展

《条例》多处规定了评估制度，每种评估的作用和目的不同，应该分别研究，予以重视。从评估的对象来看，涉及“特色产业园区的智能化程度开展评估”（第三十条），“行业发展态势、制定政策措施”（第三十八条），“人工智能资产评估体系”（第五十条）等。

其中，最为重要的评估规定在第四十九条，该条规定：“市有关部门应当组织行业组织等制定人工智能的应用成效评估方法，建立人工智能产品和应用的智能化水平评价机制，探索评估人工智能产品和应用的社会综合影响，推动人工智能深度应用与持续创新。”本条规定意义重大，如何具体实践运作，仍待未来的检验。

8 中小企业保护：激发活力

《条例》第六十五条规定：“市人民政府及有关部门……探索分级治理和沙盒监管，激发各类主体创新活力，拓展人工智能发展空间。……市有关部门可以就人工智能产业发展过程中的轻微违法行为等制定依法不予行政处罚清单……”该条强调了沙盒监管，旨在放松发展空间、宽容科技创新风险，而制定“不予行政处罚清单”则有助于减小中小企业的轻微违法负担。

《条例》第十三条第二款规定：“市经济信息化部门应当……保障中小企业获得普惠的公共算力。”第十八条规定：“支持相关主体单独或者联合申请公共数据开放，保障中小企业、个人开发者等公平使用开放数据。”综合来看，在对中小企业保护的制度设计上，《条例》从给政策和免处罚两个方面进行全面规定，并配合了开放沙盒和减轻企业相关成本等制度。

9 可信人工智能：型构缓解信任焦虑的共识

实现人工智能可信被认为是人工智能技术发展与社会治理的核心目标。综观《条例》的内容，虽然仅在第十五条规定了算法可信化——该条第一款规定“本市支持……实现算法可信化……”——其他部分无一字可信，但“可信”如地下甘泉，滋养着《条例》的规制体系。

在人工智能系统开发或应用阶段的任何错误都可能是灾难性的，特别是当涉及人类生命时。实现人工智能可信有助于缓解社会对人工智能及其治理的普遍焦虑。在这一点上，《条例》确立的前述制度显然给出了可信人工智能发展的上海答卷。目前来看，可信的内涵至少包括基础合法、符合伦理、技术稳定和可以测评等内容。

不过，创建道德的和值得信赖的人工智能不仅需要了解技术本身，还需要了解存在的社会和道德条件，以及如何适当地解释和评估它们对人工智能的设计、构建和测试方式的影响，以及人工智能与人类互动的方式。因此，可信目前虽无成熟制度，但其作为基本精神影响未来实践和制度更新。

10 伦理专家委员会：软法有了硬载体

《条例》规定设立人工智能伦理专家委员会，这一设置为“软法”转“硬”提供了组织支撑。第六十六条规定：“本市设立人工智能伦理专家委员会，履行下列职责：（一）组织制定人工智能领域伦理规范指南；（二）指导高等学校、科研机构、企业和相关行业组织等开展人工智能领域伦理理论研究和探索，推动参与国内外人工智能领域伦理重大问题研讨和规范制定；（三）推动人工智能企业探索建立伦理安全治理制度；（四）对涉及生命健康、公共安全等重点领域人工智能应用的潜在风险开展评估；（五）开展人工智能领域伦理咨询活动，为相关部门提供决策咨询服务；（六）开展人工智能领域伦理安全教育和宣传。”

数字社会的治理在硬法之外需要软法的配合。软法不限于伦理，还包括习惯，甚至可以把技术包含在内。软法的“软”一般是说其不具备强制力、权利义务责任设计等。面向未来，这些软性的规则（法）所提供的秩序在数字社会中将发挥越来越重要的作用。因此，一个议题是重新审视所谓的硬法的局限和发展的趋向。硬法之“硬”，包含的是不可缺少的程序、权利义务设置、监管与责任安排等以公权力支撑的制度，硬法具有刚性，但立法与修改程序多，耗时长，效率低下，不足以应对数字社会的发展。因此，软硬法之间的协调和互动将不可避免，也就是说，硬法需要在更大程度上肯认软法的地位，吸纳软法的规则，为其提供支撑。

创建一个兼具多方面专业知识和具有权威性的人工智能伦理专家委员会是必要且重要的。地方立法确认这一制度为相关实践提供了法治基础。目前，还有以下几个问题需要解决：一是如何处理人工智能伦理专家委员会与战略咨询专家委员会的关系；二是人工智能伦理专家委员会的权力边界；三是人工智能伦理专家委员会的运作机制。这将直接决定该组织在人工智能综合治理框架中的作用发挥，关系到政府、企业、消费者和其他利益相关者的协调，尚待后续实践完善。