人工智能治理中数字人权保护问题研究

邹依凝

摘 要：党的十九大报告提出要建设智慧社会，引发了我们对数字人权的思考。智慧社会下的人工智能除了满足人们对美好发展的需要，也产生了诸如算法黑箱、算法歧视、隐私侵犯、数字沟泓等与人权问题紧密相关、亟待解决的问题。以此为切入点，立足智慧社会发展的客观现实和人性诉求，从人工智能治理中数字人权的保护现状、存在问题、促进发展几个方面出发，在数字人权保护机制等方面进行深刻研究，进而为其发展提供法治化保障。

关键词：智慧社会;人工智能;数字人权;法治保障

1 人工智能治理中数字人权的保护现状

“智慧社会就是数字化、网络化、智能化深度融合的社会”，在此时期智能互联网也蓬勃发展，产生了诸如人工智能、云计算等新时代的产物，利用算法、代码等技术，人们可以突破物理疆域的限制，跨越了 “虚拟，现实” 的两重空间和人的 “生物，数字” 的双重属性，实现了数字身份及行为的远程临场。

1.1 虚拟—现实双重空间的交互发展

如今数字社会的快速进步和人工智能技术的迅速发展，背后是一场信息革命，即从工业社会向信息社会的转型，它以网络技术的发展为依托，缔造了一个超越空间的新型社会，促进了互联网、大数据、人工智能的交融发展，引导人们进入了信息化和智慧化的生活。人们从现实的物理空间走进了虚拟的电子空间，网上交易、群聊通信、学习娱乐，人工智能的发展使人们通过网络连接的方式就可以形成生活的方方面面，从而导致虚拟—现实双重空间的交互发展的现状。

1.2 生物—信息双重属性的叠加融合

随着人工智能的迅猛发展，现实与虚拟的交互，国家和社会的混同，海量数据的相互交换，通过网络中留下的一串串数字脚印，形成了每个人特有的“数据画像”。这样，人们就在天然的生物属性之外，获得了数字属性，从“生物人类”迈向“数字人类”，塑造了数字时代中生物-信息的双重人性。可以说，在智能互联网时代，海量数据不断融合，网络个人信息涵盖了从摇篮到坟墓的所有私人生活，就这样，一个“数字人”正在渐渐涌现。在这种情况下，数字鸿沟、算法黑箱、算法歧视等问题在不断发展，这实际上是复制和控制了通过数字渠道连续获得的数字信息。人们的个人兴趣、购买习惯等正在被一条条数据描绘着，源源不断的汇入大数据分析中，从而构成一个具有双重属性的社会信息网络。

1.3 算法权力的边界模糊

在数字时代，有关公民的个人信息转换成代码数据储存在网络空间中，人们不得不置身于大数据的虚拟空间中，公民逐渐成为一整个信息共同体，而为了社会经济的整体发展，相对的又不得不赋予平台一些“准公权力”，如规则制定权、审查权、管理权和处分权等。因此，数据和信息成为重要的新型资产，而算法也从最初的“提炼自这个世界，来源于这个世界”，转向“开始塑造这个世界”。而网络服务提供者利用人工智能等技术手段对这些数据进行系统的整理分析，从而对这些相关个人或群体及其行为得出相应的推断，比如一些商业群体就会通过对海量数据的分析得出个人的喜好、需要后对用户投放精准推送并因此获取巨大的商业利益。可以说，在“数据化+智能化”的“互联网+”时代，正是由于嵌入了数字和人工智能的元素，传统的权利和义务发生了根本的变化。

2 人工智能治理中数字人权保护存在的问题

2.1 算法崛起带来法律挑战

人工智能的发展，使得“信息”成了数字社会中的关键因素，信息化重组带来的风险几乎贯穿整个社会的演进发展，信息不再受到主权国家的绝对控制，而由条条信息数据的算法也越来越多的应用在决策和辅助场合。但是，算法黑箱、算法歧视等都暗含在算法的崛起之下。2018年的“Facebook丑闻”事件中，剑桥分析作为一家大数据分析公司，通过数据分析定义不同用户，其中成为“可说服者”的用户会成为平台的重点分析对象，平台会对其社交媒体活动信息做大数据分析，并以此计算出最容易让他们转变心意的广告方式，进而进行准对性的广告投放。平台及网络服务提供者正是运用算法来帮助甚至直接决定人们的决策权，这直接侵犯了人类决策的知情权。

2.2 “公共暴露”侵犯个人隐私

自20世纪初开始，从“对隐私权的侵犯已经不需要物理的、强制性侵入”，到“隐私的合理期待”（公共暴露），隐私权保障逐渐由住宅扩展到公共场所、从强调“场所”转向关注“人”。在当今社会，人们频繁的通过网络数据的方式完成生活中的各种交互，大数据、云计算、人工智能等越来越多的渗透在日常生活中的方方面面。因此，人们逐渐陷入了海量数据的漩涡中，失去了对个人信息权力的掌控。另一方面，随着大数据分析的发展，人们可以根据大数据的推荐选择自己需要的产品，但是这其中却掺杂了过多的第三方意愿。比如说，商家可以通过刷单、购买权重等方式提高自己在平台中的搜索地位从而让自己成为消费者的选择，在这种不知不觉中，人们自以为的需求产品其实变成了根据大数据运算后结合商家利益的推荐产品，人们正在慢慢失去自己的自主选择权。

与此同时，在当下的数字社会的发展中网络空间也逐渐成了人们生活的“第二个空间”，通过网络空间的技术架构，网络犯罪实现了“全球脱域”而游走在世界各地。而随着互联网时代网民基本素质的整体提升和网络技术门槛的逐渐降低，“公共暴露”的范围逐渐扩大，这在某一方面来说使得新型网络犯罪更多，犯罪者通过一些简单的技术链接就可以获取到人们的个人信息并进而将其用作犯罪的道具，致使新型网络犯罪率逐年升高，进一步侵害个人隐私权。据2019年公安部数据显示，全国最大访客营销案中的犯罪嫌疑人非法获取和储存公民个人相关信息约1000万余条。面对上述新型网络犯罪行为，如果可以提前设防，就可以防患于未然，保护公民个人信息和社会安全。

2.3 算法权力偏颇引发数字沟鸿

一般情况下，代码提供者会根据法律及伦理道德等多方面结合的实际要求提供具有提前约束力的代码规则供社会公共使用。此外，网络服务提供者也会在用户接入前提前设计相关用户协议以约束网民个体、网络组织等活动，以达到稳定网络秩序的预期功效。在实际操控中，普遍的情况是，代码设计者及网络服务提供者拥有对代码系统的绝对控制权，通过提前审查等方式管理网络秩序，履行信息网络安全管理的公法义务。但是，“内容过滤软件则会限制用户的自由浏览、沟通及表达。”代码设计者和网络服务提供者在实践中为了降低成本、获取更高利益、逃避监管责任等原因，其中立性越发偏失，比如，通过提升点击率和知名度，可以扩展用户份额以及增加广告收入，这是服务商的主要经营方式，为此目的，利益驅使下的服务商不惜牺牲公民权利和公共利益。实际网络生活中，不顾他人隐私权肆意炒作、利用网络用户个人注册信息进行不当牟利等情况数不胜数。在大数据时代，掌握信息流不只是掌握现金流，更可能意味着一种“信息独裁”。可以说，普通公众基本上无法得知自己在多大程度上、哪一方面被掌控，信息不对称的现象普遍而广泛，形成了实实在在的“数字沟泓”。