发展人工智能应避免“近视症”

【摘要】顺应形势把握住人工智能和第四次工业革命带来的重大历史机遇，能够为转型期的中国经济社会发展提供新动能。人工智能时代机遇与挑战同在，应当加强人工智能技术发展研判和预测，增强风险意识，更好应对人工智能技术可能导致的失控风险、伦理挑战、就业影响，促进科技治理能力现代化。处理好“善治”与“善智”的关系，走向技术与社会的“良性互构”。

【关键词】人工智能 伦理规约 社会治理 【中图分类号】TP24 【文献标识码】A

人工智能时代：机遇与挑战同在

人工智能是引领未来的战略性技术，从国际发展态势来看，世界各主要国家均把人工智能作为重要发展战略，力图在新一轮国际竞争中把握住主导权和话语权。2017年7月，国务院印发了《新一代人工智能发展规划》进一步明确了中国新一代人工智能的发展目标，规划指出：2020年人工智能产业成为新的重要经济增长点；2025年中国的智能社会建设取得积极进展，2030年中国成为世界上主要的人工智能创新中心。

第四次工业革命及人工智能时代的到来正在见证生产组织方式的巨大变革，以规模化定制为特征的生产组织方式、平台经济以及企业的网络化、扁平化正在成为新的趋势。新产业形态出现将为传统产业提供转型的契机，经济发展的新动能正在被持续发掘，利用人工智能技术提升和改造传统产业正在汇聚经济社会转型的新动力。顺应形势把握住人工智能和第四次工业革命带来的重大历史机遇，可以带动国家竞争力的整体跃升，进而为处于转型期的中国经济社会发展提供强大动能。

推进和发展人工智能技术已经成为国际社会共识，然而人工智能在提供社会发展动力和平台的同时，也对经济、社会、就业、法律、伦理、安全诸领域提出了新挑战。人工智能时代的技术以指数而非线性速度发展，在既有的发展水平差距面前，经济发展水平较高、技术较为先进的国家与较为落后的国家之间的差距将进一步增大，全球治理秩序亟待重组。个体网络身份和社会身份的冲突在挑战传统社会规范，网络空间的兴起和人工智能发展所引发的大量新伦理问题亟待形成共识。

从技术演化历史来看，很多关键性的技术发展都要经历从0到1，再从1到100的过程。2016年3月阿法狗（AlphaGo）在围棋领域首次战胜人类世界冠军深刻冲击着人类对自身智力极限的信心；而2017年10月《自然》杂志发文报道的新一代阿法元（AlphaGo Zero）已经具有了远高于阿法狗的棋艺，尤为重要的是其棋技学习不需要以历史棋谱为指引，也不需要以人类先验知识为指导，而是完全靠其自身的强化学习获得技能的提升，以至于专家发出“人工智能从0到1”的惊呼。

如果说阿法狗和阿法元在围棋领域的强势胜出一度导致了公众焦虑、引起人类对自身智力极限的反思及对“人的本质是什么”的深层追问。霍金则警告称：发明人工智能AI可能会成为人类历史上最大的灾难，如果管理不善，会思考的机器可能会为文明划上句号。

人工智能技术发展：构建“好的人工智能社会”是全人类面临的严峻挑战

人们期待通过技术“保护我们以摆脱现实生活的悲惨险境”时，也一直在关注技术发展可能带给人类的风险。人类社会从传统社会迈向现代社会是一个质的飞跃，自工业革命伊始，技术一直被视作这一宏大社会进程的重要变革性力量，但从伦理学角度看，技术也一直被视作一种忧患之源。

人类发展技术的历史也一直纠结在“技术控”与“技术失控”的二元逻辑主线之中。人们在享受技术便利的同时，有可能失去了对复杂技术系统的控制，进而对人类生存带来灾难。“技术的反向控制与适应”的主题也一直存在于各个文化体系和知识形式之中。从传统社会思想家对“技术危险性”的警示到工业革命之初社会科学家对“启蒙黑暗面”的关切；从近现代戏剧与文学作品（狄更斯、托尔斯泰、卡夫卡等）对“技术两面性”的大众化诠释和传播，到技术研究领域对 “技术敌托邦”的探索，再到近代社会科学的政策分析，所有关切都指向技术所带来的意想不到的社会结果，“技术的潜在功能与社会功能紊乱”问题一直是人类发展的梦魇。而人工智能可能自然演化具备自觉意识并对人类发动攻击则是技术忧虑在当代公众意识中的折射。

人们曾一度认为，人类对自己制造的东西最为了解，并能达到对“制造物”的牢固控制，然而科技發展的速度往往超乎人类想象。起初，机器人只是作为一种人类生活工具出现在科幻小说中的。20世纪中期，当艾萨克·阿西莫夫出版《我，机器人》的时候，机器人世界还是想象中的世界，在科幻作家最初设想中，机器人以照顾人类为己任。然而随着科学技术的进步，人们开始对机器人技术是否会超出人类控制范围产生了怀疑。当今，人类生活中已经充斥着大量机器人，并且越来越智能化，科学的进步总是超乎人们预测。于是，人们开始设想高度发展的人工智能未来，当智能机器人充斥于我们生活那一天，是否会不再满足于为人类服务，而像人类宣战，并统治世界？机器与人的关系是否有可能会从“人”与“物”的关系转化成“人”与“人”的关系呢？

当前人工智能已经从科学实验阶段进入商业应用阶段，智能机器执行任务的复杂度正在以指数速度增长，人工智能发展正在进入爆发前的临界点；人工智能进化中的递归式自我改善有可能会导致最终的“智能爆炸”。人工智能飞速进步所展示的人类创造出一种全新生命形式的可能性，不仅将标志着进化的突破，而且也可能给人类物种的生存构成潜在威胁。人工智能技术失控可能源自作为技术创造者的工程师的疏忽大意和无意识，也可能源于机器人的某个深度学习瞬间的豁然领悟。在电影《西部世界》中智能机器人开始不再听命于工程师们，开始伤害和自我伤害，并最终摆脱了人类的控制，开始反抗屠杀人类。

构建“好的人工智能社会（Good AI Society）”是全人类面临的严峻挑战。随着人工智能在生产活动和社会活动中的作用不再被忽略，人工智能甚至有可能让人类失去智慧能动者的唯一地位。传统社会中仅仅针对人的产业制度和生产规则面临重组的挑战，以适应非人行动者参与的需要；“让生活更美好”的人类愿景正面临如何构建“好的人工智能社会”的紧迫挑战。endprint

“善治”与“善智”：发展“负责任”的人工智能，走向技术与社会的“良性互构”

在技术发展中，人类应当避免“近视症”的困扰，预先规划、做好顶层设计，仅仅和過于强调技术发展的“独特能力”，反而容易落入“能力陷阱”。人工智能时代不仅仅意味着一场技术与产业革命，对全球价值链结构、全球产业竞争格局产生深刻影响，更是一场社会、文化、价值与思维等领域的全景式整体性变革。技术发展应当服务于人本身。人工智能发展要坚持“善治”与“善智”的统一，人工智能社会要走向“网络空间”与“现实空间”的深度融合，应当尽快搭建起“行动者网络”和“利益相关者”就人工智能问题开展相关讨论与合作的新平台。历史证明，人类面临重大的技术风险往往有助于推动形成社会共识；而好的社会共识则是历史进步的强大推动力。

随着新的机器自动生产者的加入，会导致设计者、使用者、监管者之间责任的模糊和缺失，精细分工下的“有组织不负责任”亟需得到解决。传统技术伦理学是把伦理道德看作技术活动之外的一种规范力量，对技术后果进行伦理反思和批判；“后经验转向”时代的技术伦理规约强调规范性和建构性的统一，主张“端口前移”：从负面伦理后果的揭批推进到正面伦理价值的“预防式置入”；在技术设计中“嵌入”道德要素，通过恰当的技术设计规范和制约“创造者”的行为，实现“把技术关进伦理的笼子里”的目标。

“技术与社会如何和谐共处的主题”一直是技术社会学的重要论域。作为跨越技术决定论与技术建构论二元对立的整合性纲领，技术与社会的“相互建构论”已经成为当代技术社会学研究的主导性范式。面对不确定性的世界尝试提供确定性的理论框架是危险的，面对人工时代的来临，我们必须跨越学术、社会、政治、国家和行业的界限开展多方合作，让所有个体、群体和区域都能参与到当前的转型过程，并从中受益。

大数据背景下的人工智能具有“强加性的巨大功能”，以人工智能为代表的第四次工业革命隐藏着巨大挑战、蕴含着空前机遇。经济长期滞胀、就业压力剧增、社会不平等发展、“好的人工智能社会”如何构建等都在考验人类的协作、创新与智慧。中国是世界上“现实中最大的发展中国家”“世界上第二大经济体”“未来的最强大国家”，世界对第四次工业革命中的“中国角色”寄予厚望。在当前阶段，中国面临经济发展新常态、供给侧改革、传统企业转型、制造业升级等问题。不论是政府、企业还是个人，深入了解第四次工业革命的本质内涵和系统意义，全面评估人工智能带给社会的机遇与挑战必将是行稳致远、角逐未来的重要砝码。

（作者为清华大学社会科学学院党委副书记、教授、博导，社会创新与风险管理中心主任）

【注：本文系国家社科基金“‘后经验转向时代的技术伦理规约机制及模式研究”（项目编号：13BZX024）的阶段性成果】

【参考文献】

①张成岗：《技术与现代性研究》，北京：中国社会科学出版社，2013年。

②[美]兰登·温纳著，杨海燕译：《自主性技术》，北京：北京大学出版社，2014年。

③[美]科德·戴维斯、道格·帕特森著，赵亮、王健译：《大数据伦理：平衡风险与创新》，沈阳：东北大学出版社，2016年。

责编/宋睿宸 美编/杨玲玲endprint