广东人工智能发展的若干问题分析*

文/拓晓瑞 徐久香

0 引言

人工智能（AI）是新一轮科技革命和产业变革的重要驱动力量，是推动区域科技跨越发展、产业优化升级、生产力整体跃升的重要战略资源。近年来，广东紧紧把握全球新一代人工智能发展重大战略机遇，不断完善人工智能创新链和生态链，加速推动人工智能与电子信息、高端装备制造、生物医药等产业融合发展，为构筑产业体系新支柱，实现经济高质量发展奠定了坚实基础。2017年，全省人工智能核心产业规模约260亿元，占全国产业规模的1/3；人工智能企业300多家，占全国总数的21.6%，居全国第二；创业公司134家，占全国总数的18.9%。我们在看到人工智能取得重大发展成效的同时，也需要认真研究和处理人工智能所带来的个人隐私保护、伦理道德、劳动力替代等社会问题，统筹考虑、前瞻布局，积极应对各种潜在风险与挑战，推动我省人工智能科学、快速发展。

1 人工智能的个人隐私保护问题

进入人工智能时代，大数据技术与智能技术实现融合发展，政府、企业等创新主体的决策越来越依赖大量的数据分析，大规模数据的收集、分析和使用，使得传统社会不断走向透明化，给人们的隐私保护带来诸多风险与挑战。一是个人数据有可能随时被收集。人工智能产品被广泛应用后，这些智能化产品能够自动收集各类用户数据，包括个人姓名、性别、电话号码、电子邮箱、地理位置、家庭住址等，这些数据海量收集会对用户形成全面追踪。二是个人数据存在泄漏风险。利用大数据分析技术不仅能够识别出特定的群体，还能分析出群体内个人的购物习惯、行踪轨迹等信息，进一步扩大了隐私暴露的风险。三是现有信息安保技术并不是特别安全。由于黑客攻击、系统安全漏洞等原因，个人数据始终面临着被泄露的潜在安全风险，例如，2016年9月，全球互联网巨头雅虎证实至少有5亿用户账户信息遭人窃取，内容涉及用户姓名、电子邮箱、电话号码、出生日期和部分登录密码，在业界引起巨大轰动与不安。四是掌握信息数据的公司对个人隐私保护不够重视。目前广大用户数据多数聚集在大型互联网或数据处理公司手中，他们出于商业利益考虑，对保护用户个人隐私的意愿和动力并不强烈，缺乏足够的技术保护手段，导致用户数据基本处于“裸露”状态。五是有关个人信息保护的法律法规不完善。在法律法规制定过程中，关于如何对个人信息进行界定，被遗忘权、携带权等新型数据权力是否纳入到未来个人信息保护立法，以及如何确保个人数据安全和数据跨境流动之间的平衡等问题，尚未达成一致性意见。

为更好地应对个人隐私和数据保护的挑战，各国通过政策制定、立法、技术等手段进一步强化对个人信息的保护。其中，“匿名化处理”技术被广泛应用1。但值得注意的是，人们在使用各种人工智能产品时，本身就是主动的隐私泄密者，任何技术手段的“匿名”或“去身份化”可能都会因为大数据的分析而重新获得“身份”。当前迫切需要做的是如何完善有关法律法规，推动个人信息数据的合理、合规、安全使用，最大限度降低隐私泄露风险。

广东作为全国人工智能产业大省，拥有华为、腾讯、大疆科技、柔宇科技、碳云智能等300多家人工智能企业，人工智能产品及技术广泛应用于政务、医疗、金融、制造、零售和教育等场景领域。当今万物互联、大数据和机器智能“叠加”发展日趋明显，各类数据信息成百倍增长，特别是在各级政府的大力推动下，广东在数据更新频率、数据覆盖范围及数据应用质量等方面走在全国前列，如在2017年全国政府数据开放排名中，广东有佛山、东莞、南海和广州四个数据开放平台入选前十。但需要深思的是，广东目前过于注重数据的开放利用与共享，而忽视了对用户数据的保护管理，特别是涉及个人信息保护的法律法规存在缺位，数据“裸奔”现象严重。建议广东省在大力发展人工智能的同时，进一步加强对个人隐私问题的研究，从政策制定、法律法规及技术手段等角度，强化对个人隐私和数据的保护，营造安全和谐的信息发展环境。一是在政策层面，建议广东省在制定出台有关人工智能、大数据、数字经济等政策文件的时候，充分考虑个人数据信息及隐私保护问题，积极引导企业、平台等主体重视对数据信息的保护管理，合法、合规地收集使用各类信息，切实保护好个人隐私安全。二是在立法层面，建议广东省人大研究出台《广东省个人信息保护条例》，明确个人信息保护的基本原则、个人信息主体的权利、监管机构及其职责、个人信息侵权责任追究和赔偿等，规范企业等主体收集、使用个人信息行为，确保个人信息安全。三是在技术层面，苹果公司已引入了“差分隐私”的概念，这种做法通过加入虚拟数据，避免了数据与特定主体之间建立联系，在实现保护用户身份和数据详情的同时，仍能提炼出一些基本信息用于机器学习，建议广东省科技厅加大对企业、高校及科研院所的支持力度，进一步强化对人工智能个人信息保护技术的开发研究，防堵技术漏洞，为个人信息保护提供安全技术屏障。

2 人工智能的伦理道德问题

人工智能技术的发展与普及应用对传统社会伦理认知造成巨大冲击，特别是未来进入强人工智能和超人工智能时代，智能机器完全可以像人一样具有感知、认知、规划、决策和执行等能力，甚至具备自主“思考”的能力，届时既有的针对人类决策者的法律和伦理规则并不适用于非人类意义上的智能机器，迫切需要研究建立新的伦理范式约束机器行为，确保机器作出的决策可以像人类一样，也是合理、合法的。目前，人工智能发展所带来的无知、忽视、偏狭、误解、安全、价值判断等伦理问题已受到全球各国的高度重视，美国、英国、欧盟等主要国家和地区及相关国际组织纷纷通过出台研究报告、指南、法律政策等措施，企图找到约束人工智能的“军规”和“紧箍咒”，确保人工智能朝着有益、安全、可控方向发展，如，美国在《国家人工智能研究和发展战略计划》中提出，要构建人工智能伦理体系，研究者需要研究出新的算法确保人工智能作出的决策与现有的法律、社会伦理一致；联合国世界科学知识与科技伦理委员会在2016年8月发布《关于机器人伦理的初步草案报告》，提出机器人不仅需要尊重人类社会的伦理规范，而且需要将特定伦理准则编写进机器人中；英国政府在2016年9月发布的《机器人技术和人工智能》中提出，要加强AI伦理研究，使AI的益处最大化，并寻找使其潜在威胁最小化的方法。一些学者也对如何解决人工智能伦理问题进行了探索性思考，如阿西莫夫在科幻著作《环舞》中提出了机器人三定律，以期对机器人进行伦理规制：第一定律，机器人不能伤害人类，不能袖手旁观坐视人类受到伤害；第二定律，机器人应服从人类指令，除非该指令与第一定律相悖；第三定律，在不违背第一和第二定律的情况下，机器人应该保护自身的存在。2017年，在美国加利福尼亚举办的阿西洛马AI会议上，近千名人工智能领域的专家联合签署了阿西洛马人工智能23条原则，呼吁全世界在发展人工智能的同时严格遵守这些原则，保障人类未来的利益和安全。

需要强调的是，研究人工智能伦理问题并不是研究机器的道德和伦理，而是一个借由该问题对人类进行自我探索，对人性进行深度剖析的过程。各国政府、产业界、研究人员、民间组织和其他利益攸关方需要开展广泛对话和持续合作，共同探讨和寻找解决人工智能理论问题的基本原则及“最优方案”，鼓励发展以人为本的人工智能，促进人类社会公平和可持续发展。目前，广东在推动人工智能关键核心技术攻关、重大平台载体建设和高端人才引进培育等方面进行了重点布局，但是，对有关人工智能带来的隐私、安全、价值判断等伦理问题一直没有给予足够重视，建议广东省从公共政策层面加强对人工智能理论问题的研究部署，引导高校、科研院所及企业等有关人员重视人工智能伦理问题，确保人工智能研发和应用沿着符合人类利益的方向前进。一是设立人工智能伦理研究专题。在广东省科技厅软科学研究或人工智能重大专项中设立人工智能伦理研究专题，重点支持省内大学、科研机构开展人工智能伦理问题研究，形成一批标志性研究成果。二是在广东省推进新一代人工智能发展战略咨询专家委员会下面设立人工智能伦理咨询专家组，对人工智能项目、技术、产品及应用进行伦理与合法性评估，探索设立人工智能伦理标准体系，防范和减少人工智能伦理风险。三是加强人工智能伦理方面的国际合作研究。鼓励和支持省内人工智能研究机构及人员积极参与全球人工智能伦理原则的研究和制定，及早识别禁区，为国际人工智能伦理研究贡献广东智慧。

3 人工智能对劳动力的替代问题

随着人工智能技术的发展，越来越多的领域将进入自动化、智能化，许多原先由人类从事的工作将会被机器取代，人机“竞争上岗”将逐渐成为未来社会的新常态。人工智能不仅会替代餐厅服务、库房搬运、商品销售、流水线作业等常规性和低端重复性的劳动工作，而且已经进军高等教育、医疗诊断、新闻撰写、律师等智力密集型行业，“抢走”了人们大量的就业机会，人机关系需要重新审视和定义。据世界经济论坛2016年报告《工作的未来》预测，从2015年到2020年，人工智能将使工作岗位净减少510万个（减少710万个、增加200万个）。针对人工智能对劳动力替代问题，我们需要认识和关注以下几个方面：一是人工智能对人类的工作数量和工作结构带来深刻影响，大量劳动密集型制造业岗位迅速消失，常规性、重复性的工作被机器所取代，围绕人工智能的新型工作岗位不断涌现，整个社会结构和经济秩序将会面临重新调整。二是人工智能给人类的生产生活带来翻天覆地的变化，助力全球大多数国家实现经济翻倍增长、完成就业转型和社会变革，最终迈入高度智能化社会形态。三是人工智能的发展颠覆了人们对传统机器的认知，人机关系需要重新定义和构建，因为人工智能将使机器具有自主意识、自我决策能力，机器也会越来越像人，人机共存问题将会是全人类需要共同探索解决的关键问题。

广东是我国的经济大省，2018年全省地区生产总值达9.73万亿元，个体工商户和私营企业数量突破1000万户，民营经济增加值达5.26万亿元，均居全国第一，特别是在纺织服装、食品饮料、家具制造、金属制品、轻工造纸等传统优势产业及新一代电子信息、生物医药、高端装备制造等战略性新兴产业领域形成了比较完善的产业链条和加工制造体系，解决了几千万人的上岗就业问题，为国家经济社会稳定发展作出了重要贡献。但值得注意的是，随着人工智能时代的来临，广东以劳动密集型为主的产业会加速转型升级，“机器换人”“数字工厂”“无人车间”大量涌现，一大批原来依靠工人来做的工作全部会被智能机器所替代，就业岗位必将大量减少，人们面临的失业风险持续增加，如果不加考虑和部署，有可能给社会稳定带来巨大挑战。

针对以上问题，建议广东省前瞻布局研究人工智能对劳动力的替代问题，尽早研究制定应对策略，确保人机关系和谐、稳定发展。一是大力支持人工智能新企业、新产业、新业态发展，推动人工技术及产品推广应用，增加新型就业岗位，降低人工智能替代劳动力带来的失业风险。二是围绕人工智能深入推进“双创”工作，以创业带动就业，重点支持大学生、科研人员、技术人员等创办人工智能企业、创客空间及科技企业孵化器，增加社会就业岗位。三是加强就业服务培训，重点对劳动密集型产业转型升级及“机器换人”淘汰的普通工人开展再就业培训，提升其专业技能，使其能够胜任人工智能时代的工作要求，实现再就业。