无人智能产品的日常监管与融入生活

李竺袁，李廷元

（中国民用航空飞行学院 计算机学院，四川 广汉 618307）

0 引言

自动控制、人工智能、计算视觉、导航、机器学习等技术的迅猛发展，促进了学术研究的进步，也促进了融合了这些技术的无人智能产品的发展。无人驾驶汽车、无人机、机器人等产品的相关创新型企业越来越多，销售商、终端用户也在增多，相关产业链正在逐渐形成，公众的接受度也在提高，无人智能产品的数量和种类日益丰富，正在逐渐融入人们的生活。此外，这也是科幻思维、人类想象力可以恣意驰骋的地方，可能未来会有更多的科幻文学、电影，与学术界的哲学研究一道，共同探讨着无人智能产品和人类共存的未来。然而，监管方式还不能适应这种变化，在保证原有系统安全运行与无人智能产品发展需要的平衡上遇到难题，如多次发生无人机干扰民航飞行安全的事件，使得无人机飞行受到了严苛的限制。本文对无人智能产品的日常监管与融入生活进行讨论。

1 无人智能产品特性分析

本文所述无人智能产品，是指人工智能的实体产品，是具有一定智能的无人系统，如机器人、无人机、无人驾驶汽车、无人潜艇等，具有独立完成任务的能力，已具有或者未来会具有根据环境灵活自主的完成任务的能力，其智能来源主要是人工智能，并结合了传感器、信息处理与融合、计算等技术。

1.1 技术特性

其基本性能依赖于导航定位，电源容量；其智能表现依赖于算法、数据；从计算角度来说，有些问题是无法计算的[1]，也就是说，无人智能产品对有些任务是不可能完成的；带来新的出错方式：程序的特点决定了程序出错是必然的，而一旦程序出错，机器的行为就会出错，而且出错时其行为可能与人不同，无法确定是否会造成破坏及预测破坏程度。

1.2 争论性

因其技术基础人工智能的争论性，无人智能产品也内在的带有一定的争论性，同时存在两种不同的声音。一种预计人工智能会掀起下一次的工业革命[2]，另一种担忧未来强人工智能的发展会是人类的灾难，这两种观点在科幻电影里得到了较为极致的表现。

1.2.1 巨大的潜力

代替人类完成危险、脏乱、枯燥（Dangerous,Dirty，Demeaning）的任务[3]；扩展人类的感知范围；显著提高生产效率，提升资源利用率；跨行业应用，打破行业壁垒；应用前景广阔，未来发展的无限可能：提供更为丰富的信息，如无人机可用于为研究提供真实可靠数据、采集交通实时情况[4]；其巨大的技术潜力可为目前困扰人类的难题提供新的思路。

1.2.2 潜在弊端

生产方式的无人化，使得生产率大幅提高的同时对低端劳动力的需求大幅减少，而对高技术人才的需求涨幅相比较小，有可能造成失业；人们过度依赖智能产品，剥夺探索发现以及思考的乐趣、减少户外运动时间；其智能程度是否会超越人类，甚至控制人类；人工智能又称为“类脑智能”，其远期目标是用自动机模仿人类的思维活动和智力功能[5]，研究人脑的结构和功能的过程中是否会有非法的、非人道主义的人脑实验。

1.3 监管难题

观测难题：无人智能产品类型多样，如无人机，传统探测方式无法准确观测和追踪；有些难以分辨是有人系统还是无人系统，如无人驾驶汽车；有些无管控的必要，如家政机器人、扫地机器人；有些是个人组装产品，未加装相应设备；管控难题：行业应用跨度大，而各行业的管理方式存在差异；人的因素，使用逃避管控的技术，如人为改变无人机 GPS信息实现“黑飞”；无人智能产品的通信、行为方式与人类不同，且无法为自己的行为负责，例如智能机器人、无人驾驶汽车和无人机，管控者无法像对待有人系统那样中途干预指挥或正常拦截；严禁的可能：若对现有系统的安全造成干扰，会受到严苛的限制，如无人机扰航事件后，大面积的禁飞；若发生了或预测会发生严重违背人类伦理、道德或威胁社会安全的事件，会遭到世界各国的严禁，如非人道的脑部实验。

1.4 结论

无人智能产品内在的争议性，需要强有力的监管体系，以引导这个产业形成良好的运作模式和市场，有足够多的有利于人类和自然的应用和公共服务事业，如应急救援，来形成可以盈利的模式，充分发挥市场经济的作用。无人智能产品虽类型多样，但其内在的共性使技术与管理上可以互为类比和借鉴。此外，人的因素不可忽视，监管同时需提供服务。

2 无人智能产品日常监管方式讨论

就无人智能产品目前的智能程度看，还是将其可以看成一种工具或商品，而不是类人的智能体或生命。在此前提下，本部分讨论了它的日常监管问题。

2.1 监管主体

监管主体是运营人还是智能机器，是制定相关法律规章首先要明确的问题。对于有人驾驶汽车、民航飞机，交通管理部门可以通过与驾驶员沟通，管控其在本地域的交通行为，管控对象是交通工具的交通行为，而责任主体是驾驶员。

对于无人智能产品，目前技术水平下监管者无法指挥它们，甚至无法与之进行基本的通信，它们“无辜的不听指挥”；而且经历了设计者、组装者、销售者、使用者，各方都有责任，责任主体也难以确定。监管难题也由此产生。而观察目前生活中对无人智能产品的监管，似乎将智能产品本身作为了监管对象和责任承担者，管控并不高效，各方权益无法保证。

本部分考虑类比有人系统，将智能产品的行业行为作为管控对象，而主要责任人是造成这种行业行为的运营人，相关责任人是设计销售方。

2.2 监管目标

满足现阶段技术发展要求并考虑未来一段时间内发展的可能性；不会对原有系统造成不利影响，有助形成良好的市场氛围；管理的同时需提供服务，如平时的数据支持、危险情况下的应急救援等；此外，需兼顾市场环境和人们的接受程度。

2.3 一种监管方法

根据前面所述的监管需求，总结运行现状，提出一种“入乡随俗”融入的监管方式，或者说“日常托管，中心监控，中心紧急处理”，这种方法较现行的各个行业各自寻求解决方法的方式相比，从一个更为宏观的视角总结归纳，看到智能产品不同行业的内在联系，提出无人系统管理中心来提供日常服务，日常运行托管。

具体实现方式如下：建立无人系统管理中心，为各种无人智能产品的日常运行提供服务和技术支持，在原有各领域设立一个类似无人项目部的部门，来负责这个此领域的特殊成员的按照此行业规范的日常运行管理，记录运行情况和问题，并与无人系统管理中心通信。这样，无人智能产品的日常管理托管给各行业领域的无人部门，而运行数据作为反馈信息上传至管理中心，管理中心负责日常进行监控和提供日常运行技术服务，特殊、紧急、突发情况时作为主要的技术支持提供方，协助相应的部门。系统架构如图1所示：

图1 无人智能产品管理系统架构图Fig.1 Architecture diagram: the management system of unmaned smart products

由图可以看出无人智能产品的应用跨越多个行业领域，可见智能技术打破了行业壁垒，尤其以无人机的应用最为明显。另外，图中很多“其他”，是因为这是一个新兴的产业，很多应用形式还未确定或尚未产生，或者说未知大于已知，系统设计需具有包容性和前瞻性。

这是一个过渡期的方法，即在无人智能系统还未完善时，使无人智能产品在不影响原有行业运行的情况下投入实践应用，通过应用中的反馈来不断完善，最终目标是建立长期的完善的独立的无人智能产品运行体系，因此在应用中不断收集反馈信息、运行记录、与无人系统管理中心有效的通信是非常重要的。这种方法的优点：符合相应的行业运行规范，减少智能产品的进入对相应行业造成未知的不利影响；运行可以参照相应领域原有的法规方式，减少工作量，可以使智能产品快速投入使用；符合人们认知，容易接受；可以针对无人智能产品的行业领域制定相应的管理规范。缺点：权责问题，是系统管理中心权限最高还是行业无人项目部，如何划分权责也是个问题，何种权限的托管也需综合考量；信息互通是否可行，如警务应用、商业应用，是否会有信息需保密或涉及隐私，跨行业应用，跨越行业壁垒的同时也面临着问题和挑战。

2.4 类比概念的应用

无人机的监管上，类比公路交通系统，建设低空中的“公路系统”，划分车道、设置交通规则和交通信号灯。已有研究如：美国航空局开发的无人机交通管理系统（UTM）[6]；新加坡南洋理工大学的无人机管理系统，参考陆地交通系统，将天空划分成一条条“车道”，并制定相应的交通规则，保证无人机相互之间的安全间隔[7]；我国中国科学院廖小罕团队提出未来建设无人机低空路网的理念，提出基于地理信息的低空空域精细化分类和三维路网规划构建是无人机低空飞行的关键，而且我国首个无人机公路已在规划当中。

2.5 结论

无人智能产品的监管是跨行业的，现阶段无人智能产品可以看成本领域传统工具的辅助或替代，因此可以参照已有规范，但这并不是长期的。此外，由于技术核心的相似性，类比的方法可能提供新的解决思路。

3 无人智能产品融入生活

3.1 融入生活方式

人们生活中智能产品可以分为虚拟服务、传统工具的替代品、传统领域不曾有的新型产品几大类，按照影响程度，总结出现阶段无人智能产品融入生活顺序，如图2所示。

首先，虚拟产品逐步融入现有设备终端，在无形中提升智能水平，如智能输入法、语言识别、面部识别、导航软件、基于位置服务等将智能服务逐步融入人们日常生活，现阶段已取得良好进展，普及度较高，人们逐渐接受智能服务带来的便利。

图2 融入生活顺序示意图Fig.2 Schematic drawing: the sequence of integrating into life

然后，是可视为传统工具的替代或补充的智能产品，其中针对个人用户的产品，如扫地机器人、智能家居，价格还较为昂贵，目前只有经济条件非常好、且接受新事物快的家庭才可会使用。关乎公共资源的无人智能产品如无人驾驶汽车、无人机、无人超市等，在融入现有系统遇到了难题，一方面是公共资源有限，如公路资源、空域资源，满足原有需求已日益困难，一时难以为新的产品提供资源；另一方面，还缺乏关于日常运行安全的证实，以及对突发情况和复杂情况的灵活、合理的反应的证实；此外，对无人超市等产品人们的接受度还不高。但在某些领域，作为辅助的智能产品已得到重要应用，如先进设备、图像识别等智能技术对医疗的重要辅助。

最后，传统领域不曾有的产品，甚至未来的强人工智能产品，留给未来无限想象，也许最先会从文学电影等领域逐渐走近生活。

3.2 人与智能产品的和谐关系

人们在享受智能技术带来便利的同时，在日常生活中有过度依赖智能服务的趋势。技术为人类过度服务，会使人类懒于劳动、思考、探索和发现，在科幻文学和电影里夸张地展现了这种担忧；此外，也会造成资源浪费。

人与电子产品、网络以及无人智能产品和谐相处的方式，应当是它们帮助人们更好的行使劳动、思考、探索和发现的权利，或者说，因为它们的帮助，劳动变得更快乐，人们更加热爱劳动，思考、探索和发现变得更有乐趣、更加震撼，人们更加喜欢思考、探索和发现。相信这也是科技最初的信念，就如诺贝尔发明炸药、爱迪生发明电灯的初衷。

3.3 未来的可能性

人与智能产品的合作可能会产生超人类的智能[8]，未来可能会出现人脑与计算机的结合。如人机结合技术将人脑移植到机器人身上或者将机器植入人的身上；谷歌公司专家雷-库兹韦尔指出，2029年将出现人机完美结合的“超人”，人类大脑将逐渐与计算机系统融合，使人类变得更聪明[9]。此外，还有目前只存在于科幻文学和电影里的有意识和情感的智能机器人，引发了人们对技术未来的担忧和科学探讨。

4 结论

本文分析了无人智能产品的特性，提出了“日常托管，中心监控，中心紧急处理”的监管方式，讨论了无人智能科技融入人们日常生活以及与之和谐相处的方式。其中，人的因素不可忽视，目前监管难题的重要原因就是掌握技术和产品的人不愿被监管，因此监管的同时需提供服务，以吸引被监管者；还需认识到市场的重要性，通过监管引导良好市场环境的形成。此外，有时候，真正值得恐慌的并不是技术，而是掌握技术的人以及日常中人们的处理方式。若意识到智能产品是用来帮助我们更好的劳动、思考、探索和发现的，则无论是未来的强人工智能，还是目前的弱人工智能，人们都能坦然的与之和谐相处。这是一场需要一代甚至几代不同领域、不同行业、不同阶层的人，花费十几年或几十年时间共同完成的技术革命。

[1] [美]约翰·麦考密克著，管策译. 改变未来的九大算法[M].北京: 中信出版社, 2013: 230-233.John MacCormick. Translated by Guan Ce.Nine Algorithms that Changed the Future[M]. Beijing: China Citic Press, 2013:230-233. (in Chinese).

[2] 凯文·凯利. TED: AI将掀起第二次工业革命[Z]. 加拿大:阿尔伯塔省, 班夫镇, 2016.Kevin Kelly. AI and the Second Industry Revolution. Banff,Alberta, Canada: Report at TED Summit, 2016.

[3] 魏瑞轩, 李学仁. 先进无人机系统及作战运用[M]. 北京:国防工业出版社, 2014.Wei Ruixuan, Li Xueren. Advanced UAV system and operational application[M]. Beijing: National Defend Industry Press, 2014.

[4] 彭仲仁, 刘晓锋等. 无人飞机在交通信息采集中的研究进展和展望[J]. 交通运输工程学报. 2012: 12(6), P119-P126.Peng Zhongren, Liu Xiaoren, etc. Research progress and prospect of UAV application in transportation information collection[J]. Journal of Traffic and Transportation Engineering. 2012: 12(6), P119-P126.

[5] 蔡自兴, 蒙祖强.人工智能基础(第3版)[M]. 北京: 高等教育出版社, 2016: P3,P24.Cai Zixing, Meng Zuqiang.The Basics of Artificial Intelligence[M]. Beijing: Higher Education Publishing House,Third edition(2016): P3, P24.

[6] uavsnews, 毕小菊编. NASA无人机交通管理系统通过了第一阶段测试[EB/OL]. http://www.pcpop.com/doc/1/1274/1274681.shtml.2015-12-07/2017-10-24.

[7] 环球科技. 新加坡研发无人机交通管理系统[EB/OL].http://tech.huanqiu.com/news/2016-12/9886455.html. 2016-12-30/2017-10-24.

[8] 戴汝为. 从基于逻辑的人工智能到社会智能的发展[J]. 自然杂志, 28(6), 311-314.Dai Ruwei. From Artificial Intelligence Based Logic to Science of Social Intelligence. Chinese Journal of Nature 28(6). P311-P314.

[9] 腾讯科技. 谷歌专家称2029年将出现人机结合的“超人”[EB/OL]. http://tech.qq.com/a/20170318/008534.htm.2017-03-18/2017-10-24.