AI时代人类命运的伦理忧思——以《人类还有未来吗》为中心的考察

时间：2024-05-07

毕亚琴戴兆国

以AI技术为代表的第四次工业革命，也被称为第三次科技革命，正以势不可挡之势席卷全球，并日益深入人们的日常生活，改变着人类的生活方式，人类已不可避免地进入AI时代。包括AI技术在内的高科技不仅带来了新一轮物质财富的充分涌流，也给人们的生活提供了极大的便利。人们在享受、把玩这些技术的过程中，对这些技术全方位地“浸入”生活所带来的有关伦理问题，乃至人类未来的存续问题似乎都缺乏警觉。《人类还有未来吗》（以下简称《人类》）一著以其高度的思想敏感，向人们发出“人类还有未来吗”这一忧思之问。面对人工智能技术和生物技术在人体上的应用，作者重新思考了何以为人？何以为物？分析了人与物的区别，提醒人类在AI时代不仅要处理好人与物的关系、人与人的关系，还要学会处理人机伦理关系。对于高科技给人类带来的挑战，《人类》从中西传统文化智慧的角度深入思考人曾何为？人将何为？呼吁人类应平衡控物与自控能力，注重内在精神文明的发展，认识人自身的限度，心中有所敬畏，并根据其底线伦理的主张，提出了一种预防性的伦理与法律规范的设想，为人类的共同命运提供思想治策。

一、“超人”还是“超物”：AI时代科技发展呈现的新趋势

科技对于人类的影响，主要体现在对生产工具的改革上，科技使生产工具越来越先进，有利于人们改造自然，促进生产力的发展。从最初的始于二三百万年前的石器时代、四五千年前的青铜器时代、三千多年前的铁器时代，到近现代18世纪60年代开始的蒸汽机时代、19世纪70年代开始的电气化时代、20世纪40年代开始的信息化时代，现如今人类已经进入人工智能时代。回溯人类生产工具的变革历史，科技呈现出一种加速度的发展，让人类的控物能力不断增强，生产力获得极大提高。

从目前技术智能化的发展来看，“这种从人的智能向超级机器智能转换的速度，即不是一般的加速度，而是一种指数的加速度，即人工智能发展的速度曲线将一下变得陡直，或者通俗地说，智能在奇点临近的那一刻将开始发生‘爆炸性’的进展，它将突然一下就超过人”。①人工智能在到达奇点之后，将会成为“超人”或者更确切地说是“超物”。人工智能这种“人化物”现在已经学会自我学习，在智能方面越来越像人。在不久的将来，它甚至可能超越人的智能。对于奇点来临，一部分人是乐观的，认为可以充分享受人工智能带来的各种便利服务，甚至利用人工智能将人类从“谋生的劳动”中解放出来，有更多闲暇时间从事“自由自觉的劳动”，从而返回“人本身”，实现人向人的本性复归。然而，也有很多人对此忧心忡忡，认为“相较于机器大工业时代机器的资本主义应用导致的人机关系异化，智能时代的人机关系异化具有一些新特征”。②首先，人工智能将替代人类绝大部分的工作而造成普通劳动者的失业，使其被剥削的资格都丧失殆尽，从而产生大量“数字穷人”，加剧社会的贫富分化和社会矛盾；其次，人们在生活中越来越依赖人工智能，人工智能“也在不断弱化人的自我价值评判能力，解构着传统生命样式，以至于传统生活世界面临着强烈冲击”③；再次，“人工智能算法的高效率使人的精神话语高地面临被机器算法操纵的风险”④，如“算法歧视”对人的操控与统治。此外，还有个人信息泄露，毫无隐私安全可言等等问题。其实，这些都可以归之于人工智能所带来的“近忧”。

《人类》认为，所有危险中最大的危险是人工智能在未来可能会给人类的存续带来威胁。随着人工智能的飞速发展，未来越来越多的人“被”失去工作而变成“无用阶级”。与之相应的是，人工智能将会深入人类社会生活的方方面面，不可避免地会涉及到价值判断的问题。如果人工智能在发展中有了自己的价值观念，形成了自己的价值判断，拥有了自我意识，一方面“它们最后大概会看不上人的容易变化的情感、易犯错误的理性和薄弱的意志，更看不上人的脆弱的肉体和终有一死”⑤，而不再听命于人。另一方面，因为人工智能基于硅基体，不同于人的碳基体而缺乏丰沛的感受性，因而不会具有人的感性的爱的情感能力以及感同身受的怜悯能力，故而，人也无法得知人工智能的价值观念而去预测它的价值判断。这就意味着，如果人工智能要反叛人类，人类既无人工智能的超强智能，又无法感受人工智能的所思所想，更无人工智能不死的硅基体，那对于人类而言将会是致命一击，人类将永无翻盘之日。又或者，即使人工智能无法获得自我意识，但它具有强大的毁灭人类的能力，如果被别有用心之恶人操控，或者有人无心的操作失误，都有可能导致人类无法逃脱被奴役、甚至被替代或者被毁灭的命运。

现代高科技的另外一个发展趋势是机器智能技术和生物技术越来越多地直接应用于人体，使人体越来越脱离碳基体的限制成为“物化人”。通过改造人的“身体自然”，让人变得更聪明、更强健、更长寿而增强控物能力。比如基因编辑技术，可以让人类与某种疾病绝缘，甚至利用生命密码来设计未来的人类；脑机接口技术，可以将芯片植入人脑，让人类也拥有人工智能一般强大的超智能；人造器官移植技术，可以随时替代不够好的、不够强健的人体器官……如此这般，可能在不久的将来，人类大概也能够实现永生的愿望了。听上去似乎不错，但事实果真如这般美好吗？对此，《人类》提出了现实存在的几种潜在的危险。一是人在不断地被“物化”的过程中，最后还能称之为“人”吗？会不会出现一个“新物种”来替代现在的“智人”？二是人类的智能不断被强化，那人类所独有的意识、思想、情感和精神是否会随着不断被物化的“强大”的身体显得无用而渐渐归于消亡呢？三是因为这些技术的应用费用十分昂贵，在能用得起的且愿意用的人和广大用不起的或者不愿意用的人之间，就会产生分化，人类社会有可能分裂成“高端人”“物化人”和“智人”“低端人”。四是技术方面的困境。这些科学技术目前仍不成熟，如果在人体的应用中出现了偏差，将存在不可预测的巨大的伦理问题和严重的后果。

究竟何以为人？何以为物？在人类进入智能化时代以前，应该说人和物的区别还是十分清晰的，人有别于一般的自然物在于人是有意识、有思想、有精神的，而且会利用和制造工具。但无论是“人化物”，还是“物化人”，它们已经渐渐模糊了人与物的界限，“它们非人非物，但又亦人亦物。它们是‘超人’，也是‘超物’”。⑥所以，人和“它们”之间的关系，既带有人与物的关系，亦有人与人的关系。面对AI的强势发展，人在处理人与物、人与人的关系之外，现在还必须思考如何处理人机之间的伦理关系，以及人自身是要“成神”还是要“成人”的问题。

二、“成神”还是“成人”：AI时代人类命运遭遇的新挑战

AI技术发展如此迅猛，它将会给人类带来怎样的命运？人类未来又将何去何从？《人类》追溯了人类文明的历史秩序，尤其从中国哲学的角度去思考人曾何为？人将何为？指出以前的人心中有所敬畏，知道作为人的限度，并通过内在精神的发展努力实现“学以成人”；而现在的人强行改变事物的自然进程，正在“学以成神”的道路上渐行渐远，这将会给人类带来前所未有的生存危机。

在蒙昧时代，由于人的认知有限，无法理解自然现象和人的生老病死，于是就产生了用“神灵”观念来解释现实的宗教性观念，人们敬畏神、膜拜神。人类进入文明时代后，心中依然有神灵，因为任何文明的开始都是和“神灵”紧密相连的，如西方的古希腊神话、北欧神话、中国的传统神话等。当人类文明发展到“轴心时代”，出现了“两个主要是宗教性的精神文明（西方的犹太教和东方的佛教）和两个主要是人文性质的文明（西方希腊城邦的思想文化和中国先秦以儒家为最突出的诸子百家）”。⑦一直到工业文明之前，人类的精神世界里“神”始终占据着重要的位置。“心中有‘神灵’的人处处感到自己的限度，产生某种敬惧，感觉有无数有别于人与超越于人的存在，知道自己的知识和能力是很有限的。”⑧因此，《人类》指出，工业文明之前的人类，往往更加注重内在精神的“修炼”，即“人的精神自控和超越能力”，努力“学以成人”。中国哲学中无论是儒家还是道家，两者都强调“天”的存在。儒家讲究“天人合一”，以实现“天命”和“人道”的和谐；道家认为“人法地，地法天，天法道，道法自然”，要“顺其自然而成其所以然”。所以，“天”构成了对人的作为的限制。人们敬畏“天”，讲究顺天而为，方能生生不息。除了外在的或者说客观的“天”之外，中国哲学还十分关注人的自身之“物”，即肉身的存在。“中国哲学是一种强调身体及其感受性的哲学。但它并不是要去努力满足身体的各种感官欲望，而毋宁说是要认识到人因其身体的感受性而带来的脆弱性和有限性，从而追求能符合人之为人的生活。”⑨换言之，也就是努力做到“学以成人”。人通过自身的感受性，“体知”人的生老病死和喜怒哀乐，“体悟”人的脆弱性和有限性。因为人的脆弱性和有限性，所以人们才渴求无限，“努力在家族的繁衍、艺术和宗教的创造中去追求永恒和无限”。⑩由此可见，儒道思想强调人的有限性，也追求人的无限性，但这种无限性不是对人的欲望的无限满足，这种人的无限性主要体现为两点。一是通过人的顺应自然而寻求人与自然的和谐，通过代代相传从而共生永续。二是肉身有限，而精神无限，通过对内发力，追求人的精神的无限性。因此，“儒、道两家思想的关注中心都不是人类社会不断的繁荣之道、富强之道，而主要是考虑其长久之道”⑪。只不过，两者之间的区别在于，儒家讲究“入世”，强调尊尊、亲亲、贤贤的三纲五常，重视人与人之间的关系，关心的是“文明存续的长久之道”；而道家讲究“出世”，信奉“无为而治”，也就是人要遵循自然规律，不要强行改变自然的运行法则和进程，重视人与物之间的关系，关心的是“人类存续的长久之道”。

但是到了近现代，不断工业化的过程就是不断“离神祛魅”的过程。人的心中没有了“神”，也忘记了“天”，由于没有了畏惧，自然也忘记了人的限度。传统的宗教和“天道”被“资本拜物教”所替代；资本的开疆扩土，因乘上科技的翅膀，而自由飞翔。资本和技术的联姻，让人类毫无畏惧地开始探索任何“禁忌之地”，只要它能够满足名利物欲。人类从古典时代注重控己的内在精神而发展出的“学以成人”，逐渐转向注重控物的“学以御物”甚至“学以成神”。古典时代人们更注重的是人与人的交往关系和生产关系，通过“控己”以保持社会的长治久安。而现代社会更注重的是人与物的关系，希望通过“控物”而促进生产力的发展。

“人化物”的人工智能是人类的创造物，人们引以为傲，虽然这种人类的创造物可能在某一天会超越人的智能从而统治人类甚至毁灭人类。“物化人”的“新人”好似“智人”的升级版，其实从某种意义上来看，也是人类的创造物，虽然这种创造物极有可能会终止人的自然进化进程，将人类带向未知的危险之境。但这二者确实都给了人以“造物主”的感觉，人成为了“神”一般的存在。“这个极度膨胀的‘人’在尼采著作里成为上帝的弑杀者。”⑫尼采说“上帝死了”，是因为上帝再也无法成为人类社会的价值信仰、道德标准和法律典章。海德格尔则说，“在技术的时代，诸神为什么会逃离？因为诸神一定要待在人不可触及的地方”。⑬那么，是否“人”果真取代了“神”呢？海德格尔对现代技术之思给了我们答案。海德格尔认为现代技术的本质是“Gestell”（常被译为“座架”或“集置”），即科技控制了“人”，异化了“人”，成为这个世界的法典，成为重新估定一切价值的标准。他说，现代技术“对人类的威胁不只来自可能有致命作用的技术机械和装置。真正的威胁已经在人类的本质处触动了人类”。⑭正如上文所述，现代科技已经模糊了人和物之区别，无论是“人化物”，还是“物化人”都正在慢慢替代现在的人类，“已经在人类的本质处触动了人类”。

人不是神，“人性中包含着一种理想性的可能，但也标志出一种可行性的限度。人性确定了我们所能期望和作为的大致范围”。⑮人性有自身的弱点，人不能像神那样全能和至善。“弑杀上帝让‘人’变回一个有限者，这个有限者在上帝位子上的所思所说因而成了笑柄，换言之，‘人’在弑杀上帝的同时也在哄笑中终结了自己。”⑯当对自然和生命失去敬畏心的人类，他的控物能力的飞速发展如果不能受到与之相等同的精神和道德能力发展的驾驭时，无限制的科学技术将犹如打开的“潘多拉的盒子”，它能将人捧得有多高，就会让人摔的有多重，从而将人类拖进灾难的深渊。

当未来“人化物”和“物化人”模糊了人和物的界限，人类还剩下什么可以区别于物？恐怕最后剩下的只能是传统文化所注重的人的意识、思想、情感和精神。对于高科技带来的挑战，人类应该如何应对？恐怕也还得向被现代社会视为“无用”的“不实在”或“虚无”的精神寻求解决之道——“人文的智慧作为平时的一种必要的调节和未来非常时候的一种准备是可能和必要的。我们需要以‘学以成人’的古典原则来调整‘学以御物’的现代原则，或者更广义地说，我们要重返‘神’——重返与物质相对的精神，不是要自己成为神，而是要承认还有超越于人的存在”⑰，以此来平衡目前人类控物能力的迅猛发展和自控能力衰落之间的落差。唯有知道人的限度，注重内在精神的发展，提高精神和道德能力，方能减少对追逐物质利益的狂热，为科技确立符合人性的发展目标，让科技向善发展。

三、“控物”还是“自控”：AI时代人类命运发展的内生动力

科学技术作为人类改造自然，促进生产力发展的工具和手段，为的是满足人们的物质和精神追求，促进人类社会的全面发展。但在资本乘风破浪的现代社会，万物的商品化和资本化极大地刺激了人们的致富欲和对物质享乐的贪欲。对物欲的渴求，又不断地刺激着科学技术的飞速发展甚至无所忌惮地进入“禁忌之地”，从而不断地挑战人类的伦理底线和价值底线。《人类》指出，这一方面导致了物质文明的极大发展和精神文明的相对衰落；另一方面导致了人的控物能力的不断强大和自控能力的相对削弱。控物能力主要表现在生产力的发展方面；自控能力则主要指向人与人的生产关系和社会关系的变革。如果任由科学技术被资本裹挟无限度地发展下去，虽然生产力会获得单方面的巨大发展，但无限制地“勇闯科学无人区”却将可能会给人类带来不可预测的灾难。

人将何为？如何让科技“可控”，防止科技“趋恶”发展？其实这背后还是如何防止人“趋恶”的问题。人不是神，人不是至善的，人有善端，也有恶端。如何遏制人的恶端，这需要伦理和法律的规范。针对AI时代科技发展的新趋势，以及可能给人类带来的不可预测的严重后果，《人类》提出了要注重精神文明的发展，由精神支撑伦理道德，让道德规范成为法律之奠基，以此规约人性及行为，驯化、驾驭乃至超越逐物，节制过度的好奇和享乐，平衡人的控物和自控能力。这就要求一方面要坚持底线思维，以尊重人的生命价值、人的主体性为导向，适度地限制控物能力的发展；另一方面，要建立一种预防性的伦理和法律，从内在的精神价值规范层面和外在的法律强制规范层面实现人的自控。

何为科技发展的底线思维？底线思维是“防止和化解最坏情况出现的思维”。⑱而对于人类而言，人之为人长久的存续就是科技发展的底线。这包含了两个层面，首先，是作为个体的人的生命和作为人类整体的存续至上，这是保证人类生生不息的前提。如果科技发展的结果导致人类都不复存在了，那么，人类发展科技的意义和目的何在？其次，是保证人的主体性。科技发展的最终目的是为人服务的，科技的发展过程中不能损害人的主体性，即人之为人的尊严。人是具有自主意识的存在物，人比其他存在物要伟大的地方，就在于人的精神意识，在于人的道德和信仰，人有尊严，可以为自己的行为负责。“我们可能还是不会想让机器做自己的决策人。它可能比我们理性，但我们还有感情……自然，我也还是可能犯错误，但它知道作为一个能够自我选择的主体的尊严和骄傲吗？”⑲智能机器能通过遵守人类事先设定好的规则而成为“道德大师”吗？“答案是否定的，我们或许永远无法将道德决策完全卸载给人工智能。”⑳因为，“成熟的道德决策是一种熟练应对，道德知识是一种技能知识，在这方面，人心胜于机器”。㉑科技发展的结果不能让人丧失人之为人的主体性，人之为人的尊严。这是AI技术发展的底线，也是处理人机关系最基本的伦理原则。由于“民可与乐成，不可与虑始”㉒，所以《人类》认为，最重要的还是“关键的少数”要树立底线意识。影响AI时代科技发展新趋势的“关键的少数”，主要指“第一线的科研人员、研发公司的拥有者和管理者以及投资者、政治领导人和观念人，即艺术家、人文与社会科学学者、媒体人等”。㉓要防止科技“趋恶”发展可能会带来的灾难，主要还是靠人的危机意识的建立，不能让科技发展突破伦理底线，要适度限制人的控物能力的单向度发展。

那么，如何保证人能够遵守科技的道德规范，坚守科技发展的伦理底线呢？除了人充分发展个体自我的精神，以道德信仰进行自控之外，《人类》还“概括性地提出了一种旨在控制不可预测的后果的、预防性的伦理与法律”㉔，以伦理和法律从社会层面对人自身进行控制约束。它指出，由于现代社会人类要求平等的价值取向，不可能以某种生活理想或“好”的价值目标为中心来规范或引领人的德性。因此，现代伦理“主要考虑这些行为的正当与否，以及这种正当性的根据何在，如何遵循和制定相应的行为规则等”。㉕判断一个行为正当与否，应该涉及行为的动机、行为的过程和行为的结果。而现代伦理两大流派之一的“道义论”的伦理学以行为本身的性质、规范来衡量行为的正当与否，忽略了行为的动机和结果。另一流派“目的论”的伦理学则以行为的目的或结果来衡量行为的正当与否，忽略了行为的动机和行为过程。现代科技的高速发展，在不断地改变自然事物的进程，以至于行为结果难以预测。面对可能的不可预知的严重后果，预防性的伦理不仅要对行为过程和行为结果给予防范，更要对人的行为动机，尤其是由名利和好奇心驱使的动机有所限制。这种限制主要体现在“内心信念与社会舆论这两个方面”。㉖预防性的伦理从源头处即从行为动机到行为过程，直至行为结果进行防范和控制，是底线伦理的具体转化。虽然，伦理道德作为一种主观的软约束，它的作用范围比法律广，但也要看到伦理道德的限度，即它的“药效”比较慢，这就需要一种立竿见影的硬约束即法律来与之配合，携手同行，即“尽量健全相关的法律，在事先的授权、事中的监管、事后的惩罚等方面都有明确细密的规定”㉗，防止科技“趋恶”发展。

《人类》同时也指出，“我们还必须在现有的国家体制和国际体系中来考虑问题”㉘，因为“现代技术发展的基本单位是民族国家……而国家之间的通常是白热化的竞争多半会使可能‘为恶利用’的技术创新脱离伦理监控”。㉙国家之间的激烈竞争会刺激科技无限制的发展，但人类需要意识到“我们将面临的问题不是任何一个国家能够单独解决的，人类面对这样一种生存危机真正成了一个人类命运的共同体”㉚。唯有如此，人类方会团结起来，一起协同解决日益强大的控物能力和日渐衰落的自控能力这一基本矛盾。解决好这一矛盾将会成为AI时代人类命运发展的内生动力。

四、“机善”还是“人善”：AI时代人类命运向善的时代之思

上述三个方面，是《人类》一书的明线，展示了本书的致思理路。如果说可以通过平衡人的控物能力与自控能力，同时建立底线思维，构建一种预防性的伦理与法律规范来防止科技“趋恶”，那么，回答AI时代科技“向善”（即机善）何以可能这一问题则成为这本书的暗线。回答这个问题，需要对现代科技的“前世今生”进行一些分析，进而了解现代科技是如何走上异化之路的。为此，我们可以从四个角度发问深思。

一是现代科技与以往的技艺有何不同？也就是“技艺”与“技术”之别带来了什么？

以往的技术主要是手工技术，或称为“技艺”更为妥帖。直到近现代，科学与技术的深度融合推动了人类一次又一次的科技革命，因此，现在人们习惯将科学与技术放在一起使用，简称“科技”。那么，现代科技与以往的技艺有何不同？在海德格尔的技术之思中有深刻的呈现。

海德格尔在其早期的作品中，通过“在操劳活动中照面”的“用具”来构建“此在”的在世方式，“此在在生存操劳活动里，在与用具打交道过程中领会存在，从而展现出此在的敞开状态”。㉛即此在在操劳活动中通过用具的指引而与其他存在物发生关联并实现展开状态，从而通达真理而恢复自由。这是一个通过用具祛除遮蔽，实现澄明的过程。在之后的《技术的追问》等作品中，海德格尔对现代科技进行了深刻的反思与批判，“他指出了古代用具的使用和现在技术对于世界的不同展现方式，并追问得出了现代技术的本质就是‘座架’”㉜。现代技术“座架”了人，人被技术逼迫着走上解蔽之路，但是这种解蔽实则是一种遮蔽，它遮蔽着人以及存在的问题。因此，现代技术实质上是一种强制性的“解蔽”，它裹挟人和自然，贬损人的“主体性”，让人失去通达真理之路。而之前的技术，因顺应自然，根据事物本身的规律进行解蔽，所以还是一种美的产出、艺术的创作。《人类》也指出之前的“技艺”，多作用于外物，只是人的“身体器官的自然的、可见的延长”㉝，不会“随意改变事物的自然进程”。㉞而AI时代的科技，被各种欲望推动着，越来越指向人自身，改变人的自然进化进程，对人的“身体自然”进行替代。㉟

不可否认，海德格尔对现代技术的追问是深刻的，他不仅指向人，更关照到人依赖并生存于其中的地球（大地）。其后期思想的主题是拯救地球，力图使技术时代的人类摆脱严重的危险和困境，维护人类的基本生存条件和人类在地球上的长存永续㊱，并把“拯救地球”提高到“拯救万物之母”的高度。㊲但通过“技艺”与“技术”之别，他得出的解决之道是“思”与“诗”，“人诗意地栖居”于世上显示出其浪漫的乌托邦色彩。要扬弃现代科技异化之路，破解科技异化的困局去拯救地球和人类未来，还必须追问使科技走上异化道路的动因是什么？

二是现代科技发展背后的动力是什么？是“生存”还是“幸福”？

正如《人类》中所说，从前的人们注重的是生存之道，相较于物质文明，人们更注重内在的精神世界。㊳无论是东方的孔孟、老庄，还是西方的希腊三贤，追寻的都是真理，即存在本身。人的物欲被精神所节制，从而也成就了人类生存的长久之道。

但是，到了近代，西方的启蒙运动解放了人的同时，也解放了人的欲望。资本主义追逐利润的本质，一刻不停地刺激着人们的物欲，放大着人们的欲望。现代人普遍认为占有的越多，生活就越“好”，越“幸福”。技术是资本逐利最好的助手，资本促进技术的迅猛发展，使技术服务于人所谓的“幸福生活”。所以，可以理解为何之前的“技术”不发达，因为“技术”并不是人类生存之必须，“技术”是服务于人活得“更好”的欲望。但是，在资本刺激之下的人的欲望是无穷无尽的，人在利用技术不断得到满足之后不是获得充实幸福感，而是被更加空虚的失落感所包围。

现代科技发展背后的推动力实则是资本主义刺激下的人的永无止境的欲望。欲望让技术一日千里地发展并服务于人，欲望也让技术“座驾”逼迫着人和自然，面临着“失控”的危险。人类面对资本与技术的联姻，该如何“去蔽”而通达真理之路呢？

三是科技发展的目的是什么？究竟应该选择“工具理性”还是“价值理性”？

科技发展的目的是为了人的自由全面的发展。但科技在发展的过程中，逐渐丧失了它的“价值理性”，只留下单向度的“工具理性”。尤其在AI时代，一切都变成“算法”，从“人是机器”到“机器是人”，科学的实证性和可计算性，让一切数字化。通过计算可以解构一切，消解一切神秘的东西。这种理论甚至认为人的情感，也是可以被衡量和计算的。“情感的本质就是价值，情感与价值的关系实际上就是主观和客观的关系，既然价值是可以计算的，那么情感就必然可以计算。”㊴在资本与技术的双重逼迫下，“情感”和“价值”的神秘性或者说精神性、崇高性被算法解构而消失了，只留下可以计算的利益。而“工具理性”讲究效率，即最优原则，这与资本“用最小的投入获得最大的产出”的需求不谋而合。于是，被资本权力和科技权力宰制的现代社会驱动着“工具理性”蔓延到各个领域，它不仅在生产领域创造出巨大的物质财富，甚至重塑着人的意识、情感和生活样态，成为意识形态而统治着人。

但人们在为科技理性取得的成就进行狂欢的同时，却也不得不为其制造的灾难承担后果。马克思曾生动形象地描绘出这一图景：“技术的胜利，似乎是以道德的败坏为代价换来的。随着人类愈益控制自然，个人却似乎愈益成为别人的奴隶或自身的卑劣行为的奴隶。甚至科学的纯洁光辉仿佛也只能在愚昧无知的黑暗背景上闪耀。我们的一切发现和进步，似乎结果是使物质力量成为有智慧的生命，而人的生命则化为愚钝的物质力量。”㊵

应该如何突破科技单向度的“工具理性”所造成的人的异化，回归其“价值理性”，让科技“向善”，真正地为人类造福？仅仅依靠道德、法律等上层建筑的层面，恐怕是不够的。

四是科技“向善”何以可能？人类应该重点发展“生产力”还是“生产关系”？

AI时代如何破解科技和人文的发展困局，《人类》指出，我们不是要反对技术，而是要对现代技术的本质进行反思。㊶海德格尔对现代技术进行了深刻的反思，但他的“破解之道”却显得过于浪漫和“诗意化”。让“机善”成为可能，还是要从世俗的物质生产中去寻找答案。

马克思认为科技通过工业进入人的实践活动，是“人的本质力量的公开的展示”㊷，虽然是以异化的方式进行。在《资本论》中，马克思阐述了他的“机器观”或“技术观”，揭示了机器不仅仅是物，而且还承载了资本主义的生产关系。人与机器的对立关系，是由于“机器的资本化”，或者说，“这些矛盾和对抗不是从机器本身产生的，而是从机器的资本主义应用产生的”！㊸其实，人工智能的发展并不必然会实现人的解放，也并不必然会导致“无用阶级”的出现以及人类在身体或精神上的覆灭。关键在于“人工智能”的所有权掌握在谁的手里，“人工智能”所生产的财富被谁占有，也就是社会的生产关系是怎样的，决定了科技是“向善”的还是“趋恶”的。“因为，生产力的运动与发展并不是独立实现的，而是在一定的生产关系的范围内实现的……人工智能与机器人的发展的目的、方向，以及它与人的发展之间的关系，在更大程度上并不是由人工智能本身决定的，而是受制于社会生产关系的作用与影响。”㊹“机善”之所以可能是因为“人善”之可能。如前文提到，人类应该平衡控物能力和自控能力。“控物”是生产力的体现，而“自控”即“社会化的人联合起来控制‘生产的社会关系’”。㊺“我们应该运用‘生产力与生产关系、经济基础与上层建筑’的辩证关系，不能仅将‘规范发展’停留于道德、法律、经济、科学等上层建筑领域，更应转向‘生产关系和社会关系’领域，警惕和防范各种消极后果”㊻，让科技“向善”成为可能，从而实现人的自由全面发展和人的真正解放，达到“机善”与“人善”的统一。

五、结语

“我们眼前发生的、以人工智能、神经科学、读心术、互联网、新演化论、基因工程等等为领头羊的‘第三次’（也有人称为‘第四次’）科技革命显然全部围绕人而展开：人的身体和人的智能。”㊼虽然目前我们所处的AI时代，仍然是弱人工智能阶段，但科技的飞速发展可以预见，在不久的将来强人工智能出现，直到“奇点时刻”来临，人类将进入所谓的“后人类时代”——超级人工智能时代。那时的“新人”将不同于现在的人，因此“他们”的“存在和价值”以及“他们”的“社会组织形式和生活方式”也会与现在迥然相异。“他们”甚至会因为与人的“主客体”转换而颠覆人类的世界并取而代之。现在的人类是否已经意识到这一切并为之做好准备？应该如何防范和应对可能出现的巨大风险，又该如何处理人和“新人”之间的关系？人类一直忙于不断地追求进步，是否也该思考下人类命运及其文明的长久存续之道？《人类》一书立足人类命运的未来发展，对我们时代的“最大真实”——技术问题进行了伦理和人文的思考，发出了振聋发聩的呐喊声，可不警乎？

注释：

①⑤⑥⑦⑧⑨⑩⑪⑬⑰⑱⑲㉒㉓㉔㉕㉖㉗㉘㉚㉝㉞㊳㊶何怀宏：《人类还有未来吗》，广西师范大学出版社2020 年版，第 80—81、6、6、112、113—114、120、122、124、189、44、136、19、149、150—151、152、218、155、157、103、103、120、125、118、46 页。

②③④㊻李琼琼、李振：《智能时代“人机关系”辩证——马克思“人与机器”思想的当代回响》，《毛泽东邓小平理论研究》2021年第1期。

⑫⑯㉙㉟李河：《从“代理”到“替代”的技术与正在“过时”的人类？》，《中国社会科学》2020年第10期。

⑭ ［德］海德格尔：《海德格尔文集：演讲与论文集》，孙周兴译，商务印书馆2018年版，第29页。

⑮ 何怀宏：《在人性的范围内——有关科技与人文的一些思考》，《华东师范大学学报》（哲学社会科学版）2021年第1期。

⑳㉑夏永红：《人工智能可以成为道德大师吗》，《道德与文明》2021年版第1期。

㉛㉜宋洁、王伯鲁：《从“用具”到“技术”——海德格尔此在的敞开与遮蔽思想流变解读》，《北京理工大学学报》（社会科学版）2019年第1期。

㊱㊲宋祖良：《拯救地球和人类未来》，中国社会科学出版社1993年版，第3、149页。

㊴仇德辉：《情感机器人——人工情感的逻辑框架与深度算法》，台海出版社2018年版，第41页。

㊵《马克思恩格斯选集》第1卷，人民出版社1995年版，第775页。

㊷《马克思恩格斯文集》第1卷，人民出版社2009年版，第193页。

㊸《马克思恩格斯文集》第5卷，人民出版社2009年版，第508页。

㊹林剑：《论人工智能的发展对人的劳动解放与社会解放的意义》，《人文杂志》2019年第11期。