机器人涉罪

沈臻懿

《终结者》等好莱坞大片中反映出的机器人犯罪画面，不禁令人为之震惊。但在现实生活中，机器人犯罪事件也时有发生。从1978年日本发生的第一起机器人“杀人”事件，到近期德国大众汽车工厂内的机器人“杀人”事件，机器人涉罪问题已受到人们的高度关注。诚然，当前人工智能机器人的智商远不能与人类相匹敌，其发生杀人、伤人等事件的原因多因硬件系统故障、软件系统故障以及受到电磁波干扰所导致，机器人自身尚难以自主实施犯罪活动。但任何技术都是一柄双刃剑，人工智能机器人也不能例外。其是否有可能自主实施犯罪，根源不在机器人，而在人类自身。

好莱坞著名大片《终结者》中，人类研制出的全球高级计算机控制系统“天网”全面失控，令机器人拥有了独立意识，并将人类视为其假想敌，随之对人类进行了大屠杀。无论是剧中拥有人类皮肤与肌肉，内部充满着钢铁结构的终结者机器人T-800，抑或更为先进的液态金属机器人T-1000，均被用来对人类实施犯罪。乍一听，机器人实施犯罪的情形只可能存在于类似前述电影的剧情中，但在现实生活中，是否也存在着机器人犯罪呢？

机器人，作为20世纪以来人类在自动化尤其是人工智能（Artificial Intelligence，简称AI）领域内取得的重大突破，已与当前人类社会的生产与生活紧密相连。据统计，全球范围内现有的机器人数量已突破1000万，其中20%为工业型机器人，而另有80%则为服务型机器人。从人类设计机器人的初衷而言，其既可以按照预先设定好的程序来运行，亦可以直接“听从”人类指挥，或者按照人工智能技术所设定的原则性纲领来行动。由于在设计、操作、技术等层面存在的现实问题，机器人已然引发了诸多令人诧异的事件，甚至涉及机器人犯罪。

机器人犯罪事件盘点

机器人犯罪事件最早可追溯至20世纪70年代末期。1978年9月6日，日本广岛一家工厂中的切割机器人在从事钢板切割工作时突然出现反常情况，将工厂内一名值班工人当作了钢板进行操作，从而导致了世界上第一起机器人“杀人”事件的产生。

仅仅时隔一年之后，远在大洋彼岸的美国也发生了一起工业机器人杀人事件。1979年1月25日，在位于密歇根州的美国福特工厂内，年仅25岁的装配流水线工人罗伯特·威廉姆斯（Robert Williams）被车间内的工业机器人手臂击中而死亡。因工业机器人在生产安全上存在的缺陷，法庭作出裁定令其赔偿罗伯特·威廉姆斯亲属一千万美元补偿。

不过，除了工业型机器人之外，过于智能化的机器人亦会导致命案的发生。1989年，前苏联国际象棋冠军尼古拉·古德科夫与一台M2-21超级电脑机器人对弈。尼古拉·古德科夫以其高超的棋艺连胜机器人三局，并非常得意地宣称机器人的智力是无法与人类相比拟时，悲剧就此发生！正当尼古拉·古德科夫准备与机器人开展第四局的鏖战时，连败三局的机器人突然向金属棋盘释放了高强度电流，恰巧尼古拉·古德科夫此时正将手放在棋盘中。在众人一片惊诧之下，一代国际象棋大师不幸殒命于机器人之手。

诸如此类机器人杀人的事件，多年来时有发生。仅日本一国，就已有20余人死于各类机器人之手，致伤致残的则高达8000余人。2015年7月2日，德国又发生了一起机器人杀人事件。该国汽车制造商大众称，其位于德国境内的一家工厂中，一名年仅22岁的技术员被一台机器人意外伤害致死。德国大众汽车公司发言人海克·西尔维格称，该起事故发生在距法兰克福大约100公里的包纳塔尔工厂。不幸身亡的技术员是大众的承包商，事发当时正好与同事一起在安装机器人。但在这过程中，机器人突然失控抓住被害人的胸部，并将其重重压向一块金属板，从而导致该技术员因伤重而不治身亡。海克·西爾维格同时也强调，导致被害人身亡的机器人并非流水线上与工人一同工作的机器人，而是处于安全笼之中。其通常只在封闭空间内进行工作，负责汽车零部件的抓取并进行相应操作。事发当时，这名被害的技术员正好处于安全笼中对机器人进行安装与调试。其同事则站在安全笼之外，没有受伤。在整起事件中，该机器人并未遭到损坏，亦没有出现技术故障。事件发生后，德国检察机关已就事故原因介入展开调查，并考虑是否提出指控。这起机器人“出手”杀人的事件，令人工智能的安全性问题再次引发了阵阵热议。

机器人在各行各业中的渗透

机器人犯罪问题得到人们的日益关注，其中一大原因即在于机器人在当前各行各业中的渗透与普及。从汽车制造工厂中的机器人、银行ATM自动取款机，再到谷歌汽车自动驾驶，各类机器人已渗透至社会的方方面面。

很多人坚信，未来社会还将会拥有更多的机器人，以取代传统需人力所充当的角色。过去需要人类参与完成的活动，未来只需通过机器人即可实现。致力于倡导工业机器人的人们亦表示，未来工业发展的方向与福音即是高效、精准的机器人。为此，美国物理学家雷哈特·阿尔莱恩专门对“机器人化”一词进行了说明。其认为，“机器人化”即是指人类所完成的工作被机器人取代的这一过程。

不过，各行各业中针对机器人，甚至是机器人犯罪的质疑之声亦一浪高过一浪。不少人发现，自己的工作饭碗正在被机器人所抢走。譬如，当前的快餐行业完全可以由机器人所接手。机器人不仅可以制作汉堡包，煎炸薯条，亦可为顾客点单、送餐，还可清洁店内卫生。

机器人杀人、伤人事件的频发，也加剧了人们对于机器人负面效应的忧虑。不少人提出疑问，一旦未来机器人的智力水平超过了人类，其是否还能为人类所控制。美国特斯拉汽车公司首席执行官埃隆·马斯克（Elon Musk）即是对机器人的安全性持怀疑态度的代表人物之一。马斯克曾对公众警告称，人工智能的不断发展，将令未来的机器人自主决定对人类进行犯罪与屠杀。为此，马斯克专门向一家名为生命未来的研究机构（Future of Life Institute，简称FLI）捐资1000万美元，以资助其对人工智能的安全性进行研究。该研究机构成立的目的，即是确保人类对人工智能拥有的绝对控制权，防止机器人对人类造成的毁灭与侵袭。著名科学家霍金在其发出的一封公开信中也警告称，人们必须更多地关注到人工智能的安全性。

是否会自主犯罪的机器人

人工智能的巨大潜力，令世界各国在规避其潜在风险与隐患的同时，也在探索着其研究与实践价值。但就核心要素而言，拥有人工智能系统的机器人，必须按照人类的意愿工作，防止机器人“变异”出自主犯罪的能力。

从社会发展的层面而言，汽车制造业是当前机器人应用最为密切的一项产业。这一特点与机器人的竞争力与性价比紧密联系。机器人成本的逐渐降低、功能日趋提升，使得汽车制造业越来越倚重机器人来提升自动化程度。就德国大众汽车公司而言，该公司就计划使用更多的机器人，以应对今后几年的大批工人退休浪潮以及新招员工人手短缺的问题。诸如此类行业中所使用的机器人，大致可以分为两类。第一类是轻型协作化机器人，可以与人类一同在生产线上进行工作。此类机器人在设计时有意识地考虑到了安全性问题，例如在周围有人经过时，机器人会自动停止其工作。第二类则是重型工业机器人，其通常被限定在某一特定区域，以避免同人类直接接触。在工作时，重型工业机器人会被放置在一个足够安全的笼内进行生产部件的制造与加工。

从当前科学技术发展的水平而言，拥有人工智能的机器人尚未达到像人一样独立思考的程度。据研究人员对全球53个搜索引擎这一人工智能的智商进行测定、比较的结果显示，谷歌搜索引擎的智商最高，达26.5，百度搜索引擎次之，为23.5，智商最低的则是新西兰的搜索引擎SearchNZ，仅为6。对照人类的智商可见，人类在6岁时的平均智商为55.5，12岁时为84.5，到了18岁则为97。可见，即使是搜索引擎中拥有最高智商的谷歌也仅相当于4岁的孩子。因而，从智商层面而言，现阶段智能机器人是难以与人类匹敌并自主对人类实施犯罪的。当前，机器人所拥有的“大脑”，实质是接收指令与动作执行的一整套程序代码。现阶段发生的各类机器人犯罪事件中，极有可能是机器人接收到了错误动作指令或受到外界干扰，从而导致了杀人、伤人的惨剧发生。前述事件的波及，令人们对机器人使用这一问题上难免产生了内心障碍。但有学者指出，机器人对人类的伤害，其根源并不在机器自身，而是在于设计与制造机器人的人类本身。人类对于机器人的不正确使用，转而会引发对于人类自身的误伤。这些不正确使用方式，就包括了人类在设计机器人智能程序时，因认识能力有限，在一开始就存在设计漏洞，从而最终导致机器人杀人等犯罪事实产生。

面对机器人所带来的犯罪威胁，日本邮政与电信部门组织了一个专门研究小组，针对机器人的杀人、伤人事件进行了深入研究。该研究小组认为，现阶段机器人犯罪的原因通常有以下三种。第一，因硬件系统故障所导致；第二，因软件系统故障所导致；第三，受到电磁波干扰所导致。现代科技的不断发展，令研究人员得以找到一些机器人失控犯罪的原因，并对造成机器人失控的因素加以有效修正。

诚然，当前人工智能机器人的智商仍低于人类，但并不意味着未来机器人的智商不会大幅度提升，甚至超过人类，从而导致对于人类的自主犯罪活动产生。从根源而言，前述问题的核心仍在于人类。早在1942年时，科幻小说家阿西莫夫就提出了机器人三大法则：第一法则，机器人不得伤害人类，或者坐视人类受到伤害；第二法则，在不违背第一法则的前提下，机器人必须服从人类的命令；第三法则，在不违背第一与第二法则的前提下，机器人必须保护自己。英国巴斯大学约翰娜·波依逊教授则指出，这一问题的规范并非针对机器人，而是人类。“人类需要做出选择，在自身基础上搭建道德框架，从而将机器人置于人类的道德框架之下，以保证其不会杀害其他生命。”

杀人机器人的隐忧

任何一项技术都是双刃剑，人工智能机器人也未能例外。就像原子能技术一样，其既可以作为一项能源造福于人类，又可作为原子弹武器，来摧毁城市，杀害民众。当前，部分国家对于“杀人机器人”的研究，无疑对于机器人犯罪这一问题蒙上了一层浓厚的阴影。

据联合国“法外处决、即决处决或任意处决问题”特别报告员克里斯托夫·海因斯向联合国人权理事会提交的工作通报内容，其建议人权理事会呼吁各国立即暂停对“致命性自动机器人”即“杀人机器人”技术的研发、生产与使用。该工作通报指出，“致命性自动机器人”是一种在激活后即无需人类干预，即可自动选择目标并采取行动的新型武器系统。当前，各国已投入实战应用的“无人机”等机器人技术仍需要借助于人类的控制与决定，但“致命性自动机器人”则完全由电子计算机系统来做出决定。其已从由人类远程遥控发展为自带电子计算机软件与控制传感器，能够完全自主地执行敌方识别、敌情判断与击杀敌人等任务。

海因斯指出，“致命性自动机器人”的使用可能会让战争冲突变得相对容易需要，但同时也会造成战争责任认定等一系列伦理问题。“致命性自动机器人”的一大潜在危害即是该种机器人可能会自主伤害准备投降的或已丧失战斗力的士兵，因而严重违法国际人权与人道主义法。海因斯同时也提出质疑，“机器人是否应拥有决定人类的生杀大权的权力”“谁将为机器人的犯罪与滥杀无辜来承担责任”，这些问题均值得国际社会加以深入反思。

在工作通报中，海因斯还建议由联合国组成一个高级别小组，召集所有国家共同商讨国际社会在这一问题上所应采取的对策，从而形成共同遵守的原则，暂停当前所有设计生产、组装、运输、购买、部署与使用“致命性自动机器人”的行为。

诚然，“致命性自动機器人”尚未投入实战应用，但这一技术已然成型。针对这一问题，是否可以允许机器人来杀害人类，值得人们进一步探讨。