传播的兴趣偏向和浑然不觉的符号暴力——基于《今日头条》的算法控制研究

■ 尚 帅

利奥塔在话语暴政的祭坛前号召人们去击碎话语的无情枷锁,具有极其鲜明的政治意义。布尔迪厄指出话语对我们的统治和压榨绝对是深层次的,它比经济的、政治的、社会的禁锢还要厉害。符号的政治功能就是要实现重建或再生产社会结构。从一种变动的视角看,社会由各种相互竞争的“场域”构成,而个人的心智结构则呈现为更有形成性的“惯习”。符号的政治社会功能实现于场域与惯习的相互塑造的过程。①在实施的过程中,由暴力对象以他者的自我异化的方式来进行,被统治者协助统治者统治自己,被剥夺者协助剥夺者剥夺自己,被阉割者协助阉割者阉割自己,很好地隐藏了统治本身的暴力性质。

今日头条凭借自己强大的技术,为用户推荐他们喜欢的内容,甚至是格调不太高的低俗类的内容。平台之所以这样做是为了吸引用户,为平台生产流量,然后再将流量变现。今日头条打着科技理性的幌子,在看似客观性的外衣下对用户实施着“温和的暴力”,甚至很多用户从来不曾怀疑算法的科学性与伦理,将社会行动者施加在他们身上的暴力当作理所当然,符号的权力依赖于误识,并在误识中认可了这种暴力。②

一、算法：一种隐性的控制手段

马尔库塞认为,技术作为一种生产方式,作为工具、装置和器械的总体性,标示着机器时代,它同时也是组织和维持社会关系的一种方式,它体现了主导性的思考和行为模式,是控制和支配的工具。他在批判韦伯时指出技术本身就是对自然和人的统治,就是方法的、科学的、筹划好的和正在筹划着的统治。一个社会和这个社会占统治地位的兴趣企图借助人和物而要做的事情,都要用技术加以设计。③

1.算法的伪中立性

传媒的每一次进步都是技术推动的结果,技术对社会和人都产生了巨大的影响,正如美国实用主义哲学家杜威所言,大众传媒的出现使得本来就存在的人类信息传播行为成为社会生活的中心地位,传播的重要性得到空前的提高与认同,技术通过赋权改变了社会的生活和进程。

随着移动互联网时代的到来,特别是进入媒体平台化阶段之后,今日头条凭借大数据和算法技术使得内容生产和分发相分离,并且聚集了7亿多用户产生了巨大的经济效益。今日头条对用户的最大改变就是每个用户都可以成为内容的生产者,获得展示的平台,优质内容还可以得到平台的奖励,刺激更多的自媒体和机构入驻头条号持续产出更多优质的内容。通过算法将信息、人与环境三因素相耦合,今日头条用技术的手段解决了信息超载时代的现实难题。在人工智能分发新闻的过程中,看似只有算法这个“客观中立”的中介,但在算法背后还隐藏着记者和程序员对客观现实的思考,算法以科学的名义,成为新的被视为权威的外显中介。④实际上,算法也有价值观,只不过这种价值观隐藏于程序员编写的在后台运行的代码之中。

在这个宇宙中,技术也给人的不自由提供了巨大的合理性,并且证明,人要成为自主的人,要决定自己的生活,在技术上是不可能的。因为这种不自由既不表现为不合理的,又不表现为政治的,而是表现为对扩大舒适生活和提高劳动生产率的技术设备的屈从。⑤根据CNNIC报告显示,在手机推送时才关注新闻的网民占比为26.7%。今日头条有1.4亿多日活跃用户,这意味着大约有3000万用户依靠手机推迭进行新闻消费。在此,手机充当了用户的“界面代理人”的角色,行使信息筛选的权力。推送行为影响了用户的信息阅读,然而大多数用户并不了解个性化算法的运作机制。用户对算法积累大量用户的数据也毫不知情,而把这种推荐认为是科学的、客观的、精准的代名词,身陷算法符号的暴力之中而不自知。在大数据时代,庞大的数据带给算法巨大的权力。在今日头条的审核中,机器初审时会将色情、反动的内容删除,还会对抄袭的稿子进行打压、降维以减少该稿件被推送的范围和频次,在二审的时候还要对高热度的内容进行召回,查看其是否有低俗、反动的内容以确保内容安全。什么样的内容能通过审核,算法行使着把关人的权力。英国文化研究专家斯科特·拉什(Scott Lash)指出：“在一个媒体和代码无处不在的社会,权力越来越存在于算法之中”。

2.算法即权力

算法是一种权力,控制着分发的维度,什么内容可看,给什么样的人看,什么内容应该优先推荐,什么样的内容不予推荐等一系列标准,都是算法基于大数据基础上的判断,算法推荐依据的内容维度、用户维度、环境维度、协同特征、平台级优先五大维度都是算法施展权力的具体体现。人和内容都必须迎合算法的标准才有可能获得更多的推荐、流量和平台的补贴,算法成为实施权力的主体,生产者必须围绕算法的维度来行事。

2016年,今日头条推出媒体实验室给媒体内容生产提供数据支撑,创作者可以对自己感兴趣的内容进行搜索,也可以查看页面上设置的热点追踪、精选专题、数据报告、事件监控和媒体榜单等内容。因为用户有追热点的习惯,点击热点追踪就能看到热点事件的热度值,点击精选专题就可以浏览近期大家关注的热点,这里不仅有热点的近期走势,关于热点的高频词汇,还有阅读量前五名的文章展示等。所以媒体生产的内容紧跟热点就会获得更多的阅读量和点击量等商业指标。这是技术权力在内容创作上的一种控制。

3.算法的僭越

算法不仅可以根据用户的浏览痕迹和兴趣爱好进行推荐,还可以通过技术的手段加以干预。算法能决定什么内容可以加权多推送,什么内容置顶,什么内容是不能推的。技术本身具有中立性,技术的善恶完全在于使用技术的人。王先生使用今日头条时收到为其推荐的12位熟人,有的甚至是多年没有联系的朋友,有的是并没有留手机号的微信好友。据王先生介绍他并没有向今日头条开放访问“手机通讯录”的权限,在微信“隐私”设置中,也没有开通“向我推荐通讯录朋友”的功能。王先生担心今日头条通过技术窥探自己的隐私,造成信息泄露,发现该情况后,立即退出了今日头条。于先生反映,今日头条存在收集用户数据的行为,自己每次说过什么事情后,或者在网上浏览过什么商品,第二天今日头条就会推荐相关内容。如果不涉及用户隐私,怎么会出现一个人刚在淘宝和京东搜索完商品,今日头条很快给用户推荐同类产品？当“千人千面”的大数据精准营销神通到令人“匪夷所思”的程度,这种“心有灵犀”难免令人胆颤心惊。个人的隐私与所谓的数据挖掘之间的边界到底在哪儿？2018年1月份,工信部约谈今日头条、百度、支付宝三家企业存在用户个人信息收集使用规则、使用目的告知不充分的情况,侵犯了个人隐私,要求立即整改。

许多理论家选择把社会比作游戏,而不是将它比作机器。游戏在没有决定任何步骤的情况下定义了游戏者的活动范围。这一隐喻可以有效地用于技术,这样就可以像游戏一样建立一个被允许的和被禁止的“步骤”的框架。可以根据这些术语将技术代码重新构思为技术游戏的最一般规则,然而这种规则使游戏偏向了占主导的参与者。⑥今日头条凭借大数据支撑下的算法技术在各种传媒角逐的技术场域中占据了领先的地位,成为聚合分发的第一平台,但算法背后的“黑箱”仍无法彻底揭开。张一鸣提出“去主编论”“唯算法论”,目的都是规避伦理风险。算法的偏见来源于算法设计者、输入的数据和算法的局限。算法是人工产物,是在一定的价值观和权力的支撑下进行编写的,背后不为人知的权力和标准仍有待继续探索。在科学的外衣下,对技术的盲目崇拜可能会导致更大的偏见。

二、控制：浑然不觉的符号暴力

福柯提出,20世纪标志着空间时代的到来。他认为权力的运作是在一个空间的容器中进行的,空间是权力发生作用的场所。所以,福柯非常重视监视与控制的空间场所的变化,并从技术的角度来探究控制的问题。他说要分析权力如何成为社会批评和斗争的工具,就必须从探讨权力关系发挥作用的场所、方式和技术出发。⑦

1.控制的自我想象：全景监狱

在君权社会,控制的手段比较血腥和暴力,断头台是展示君权的最极致表达。而现代社会,特别是进入资本主义社会这种控制不再那么公开,而是逐步走向隐蔽。以圆形监狱为代表的全景敞视监狱就是这个时期权力控制的典型代表。

在全景敞视监狱中,所谓“可见的”就是立于建筑中心的高塔,似乎有人总是在监视囚犯而不能胡作非为。所谓的“无法确知”是指虽然能看见权力的象征物高塔,但却不确定监视者什么时候看他,此时此刻是否在监视他。在以前的控制中,这种看与被看是面对面的、直接的凝视,而在全景敞视的监狱里犯人只能想象着被看,权力拥有者能看到一切,但却不能被看。而且由于心理总感觉有人在监视自己,因而不需要高塔上人的监视,每个被囚禁者就会内化为自我监视。⑧权力的实施依靠的是观察而不是惩罚,权力是以一种无声无息的力量在发挥着巨大的作用。

如果说断头台、疯人院、临床医学都是在一种强制的、强权的驱使下实施的控制。那么全景敞视监狱则是靠被监视者的想象内化为自我监视,权力以一种更温和的方式、若即若离地存在,又无法确定地发挥着控制的职能。这种规范不像封建社会那样是强行执行他人意志的结果,而是一种看起来无处不在的无个性特征的权威所导致的结果。⑨如果说以前的这些控制手段是在比较现实的、固定的、相对封闭的场所内进行,但是到了互联网时代,特别是移动互联网时代,这种监视和控制就变得更加的虚无,但又隐蔽式得无处不在,甚至渗透到了整个社会的“神经末梢”。

2.隐性控制：温和的超级全景监狱

“超级全景监狱”是波斯特率先提出的概念,是指把电脑数据库信息方式下的权力技术统治模式。超级全景监狱不是对全景监狱的延伸,而是一种“断裂”,代表着一种新的监视和规训,这种监视更加隐蔽,却又无处不在。如今虽然整个社会从互联网时代进入到移动互联网的时代,但监控的形式和本质依然是以电脑数据库为核心的。移动互联网时代,特别是像今日头条平台型媒体对用户的控制是在一种流动的空间中进行的,数据库代表的权力也是一种流动的权力。正如鲍曼所说,权力能否在空间中任意流动是衡量现代权力的一个标志。它决定了权力的性质和数量,也决定了社会的类型和发达程度。⑩超级全景监狱中的监视是随时随地、无时无刻,并在你没有察觉的状态下,不会侵扰到人们的日常生活,也不需要任何狱卒眼睛的监视,是一种更加隐蔽化的方式。如果说全景监狱把社会变成了一个监狱群岛的话,超级全景监狱就是把整个社会变成了一个庞大的监狱,权力的毛细血管式的延伸触及社会的整个空间。

今日头条的算法是以大数据技术作为支撑的,要想推荐的准确、高效,必须能够收集到用户足够多的信息,而且收集的越多、积累的时间越长,推荐的效果越好。算法并不是什么特别先进的技术,今日头条之所以能做到聚合类新闻客户端中的第一名恰恰就在于他们起步比较早,并收集到了足够多的用户数据。今日头条之所以为用户推荐喜欢的信息,主要是为了增强对用户的黏性,增加阅读的时间。用户在注册今日头条的时候会被要求填写个人信息或者直接从微博、微信等社交媒体获得用户数据,还和京东实施了“京条计划”,打通京东和今日头条的数据资源,把信息和商品一同纳入精准推送的范围。此外,今日头条甚至还通过数据驱动打磨产品设计,A/B Test就是典型的数据思维。今日头条的系统能够做到,每天有上百个A/B Test同时在线运转。而这些对内容、对产品标题、名称的确定都是在用户并不知情的情况下选择得出的结果。

大众传媒的话语中心都是主流话语、精英话语,报道记录以达官显贵居多。而自媒体主要就是使个人获得了展示自我、记录自我的机会。今日头条平台类媒体和其他的新媒体最具颠覆性的地方就在于技术赋权,让每一个人在地球上都以数字形态留下了故事。并通过用户在今日头条里不停转发、评论、收藏、点击、滑动等行为不断建立属于自己的“电子档案”,为平台的精准推荐做出了贡献。一位访谈者说：“我喜欢吃麦当劳,所以在我的信息流广告里,经常会出现麦当劳的广告推介。”另一位受访者说：“我喜欢养花,所以经常看如何养花的信息。”由于数据库的实时监控,公共和个人之间的区分消失了,原本个人空间的不可见性,对国家和公共机构的不透明性被消解了,个人时刻处于被监控之中,隐私无处藏身且毫无察觉。

3.误识：浑然不觉的符号暴力

所谓的符号暴力是指在一个社会行动者本身合谋的基础上,施加在他身上的暴力,意在强调被施用者的不知情,因此也被布尔迪厄称为“温和的暴力”。它并非真实的暴力,而是看不见、摸不着的,并且行动者并不认为那是一种暴力,反而认可这种暴力,实际上是行动者通过符号权力对意义进行的建构。今日头条打着科技理性的幌子,在看似客观性的外衣下对用户实施着“温和的暴力”,甚至很多用户从来不曾怀疑算法的科学性与伦理,将社会行动者施加在他们身上的暴力当作理所当然,符号的权力依赖于误识,并在误识中认可了这种暴力。

抖音是今日头条孵化的极为成功的一款短视频产品,它的成功不仅仅是因为在中国开创了竖屏、音乐类短视频的先河,更在于平台持续不断的重运营、强运营。为了聚拢平台人气,抖音创立伊始就遍访中国各大艺术类高校寻找音乐、舞蹈达人入驻,并邀请各大明星、名人入驻,通过种子用户吸引普通用户的持续关注和参与。如吴亦凡、何炅、杨洋、迪丽热巴、Angelababy等。除此之外,抖音还设置了运营组,有五六十人负责,每个人负责20个左右的达人,并与这些达人沟通、互动,生产比较符合产品调性的音乐短视频产品。平台上的手指舞、对口型、跑酷、嘻哈等内容成为爆款,吸引用户制造了巨大的流量。通过平台,运营组还设置了一些挑战赛吸引用户参与,增强用户黏性,如近期比较受关注的“这才是抖音范儿毕业照”“橙子微笑挑战”“最潮足球舞”等。但官方策划的挑战赛只是其中很少的一部分,大多数的挑战赛则源自于普通用户。如“这剧情,就缺一段抖音bgm”“我才是好喝表情帝”“抖出你的家乡味道”,等等。广大的用户就是在官方或自身所发起的挑战赛里通过欣赏或制作消磨时间、展示自我、偷窥着别人,同时也为平台所深深吸引,身陷其中无法自拔,制造着流量。

总之,在研究算法的技术神话的过程中也应该深刻反思人们对其过度的技术崇拜,或如文森·特莫斯(Vincent Mosco)可所说的“数字化崇拜”。正如学者彭兰所言,算法深层之处也隐藏着偏见,如何判断和纠正算法的偏见,同样是智能化时代的新考验。因此,算法除了要从实用的角度研究其社会价值外,还应该研究其技术逻辑,思考这种技术给人和社会带来的潜在威胁：算法是不是将成为“老大哥”式的监控工具？在研究的过程中应该秉承批判主义的精神,反思以算法为代表的新兴的媒介技术是成为新的政治和商业的统治工具,还是为个体和社会谋最大福利？

三、控制：来自技术与商业的合谋

今日头条作为一家商业公司,但在内容上具有媒体的性质,发挥着媒体的作用,传播的内容应该更注重社会效益,应该在社会责任理论的框架下承担相应的责任。但实质上今日头条还是以追求利润作为第一要务的,控制的目的不是政治需求,而是为了实现商业变现的需要。

1.流量为王：控制由政治转向商业

正如丹·席勒(Dan Schiller)在《数字资本主义》中指出的那样：在扩张性的市场环境里,因特网正在加速整个社会向数字资本主义转型。算法背后的云技术和大数据正是驱动信息资本主义的引擎。虽然福柯的全景监狱和波斯特的超级全景监狱都在讲控制的问题,但前者监督的主体是权力拥有者——政府,后者的监督主体则是商业化的公司。前者控制的手段是眼睛的凝视,后者控制的手段是大数据。前者体现的控制是为了政治权力,为了维护权力的尊严和力量,为了社会的有序运转。而超级全景监狱,特别是基于大数据的今日头条平台媒体对用户所实施的控制则是为了商业的目的,无论是对内容的推荐,还是广告推荐都为了将流量变现。在这个过程中,对受众欢迎程度、受众行为偏好信息的强调加速了受众的商品化进程。商业和技术的合谋加强了,也更便利地实施着对用户的监控。

2.权力入场：控制由现实走向虚拟

福柯认为空间是和权力结合在一起的,空间上的政治性本质上就是空间的权力性。空间是政治性的、意识形态性的,空间里完全充斥着意识形态。所以,无论是断头台、疯人院还是医院和全景监狱都是权力在具体而封闭的空间权力的展现,都是为了加强对人和社会的统治,巩固国家的长治久安和对权力合法性的维护。可见,几乎所有的空间实践都是具有政治属性的活动。我们的社会不是一个公开场面的社会,而是一个监视社会,受到权力效应的干预,这是我们自己造成的,因为我们是其机制的一部分。

在移动互联时代的今日头条随时随地可以切换空间,而且这种空间逐渐从现实的空间走向虚拟,今日头条一共给用户提供了近60个频道用来选择,用户们凭兴趣可以在各种各样的空间中自由的切换,空间成为一种流动的风景和权力。今日头条的界面、频道设置都进行过很多次的改版,每一次改版都是一次尝试,改版结果的好坏由用户说了算,好的留下,不好的被淘汰。今日头条之所以能保持这么快的增长正是在于产品能够不断地推陈出新。无论是被关闭的内涵段子,还是2017年重点扶持的西瓜视频、抖音短视频和火山小视频,还有微头条、悟空问答,甚至还有更为小众的收藏、国风等频道。将产品的种类不断丰富,根据用户的阅读、点击数据进行全网搜索推介都是为了获取用户流量。这种在打着满足用户个性化的需求的同时,也把千万级用户牢牢地束缚在屏幕的前方,使他们成为“屏奴”。

3.数字劳工：一种新型的平台剥削

在技术和资本的裹挟与合围之下,如今的今日头条用户已经达到7.72亿人,日活用户1.4亿,每日使用时长76分钟,成为仅次于微信的应用软件 。算法技术的根本目的不是为了人自由而全面的发展,不是真正的为用户提供他们所需要的信息,而在于实现公司利润的增长。正如汉娜·阿伦特在《人的境况》中所指出的,工具的改进可以较大程度减轻人类劳动强度的辛苦程度,但这并不能取消劳动对人的限制,算法亦是如此。

广大用户在浏览图文或视频内容时贡献了注意力,增长了平台流量。用户在制作上传信息时成为内容的生产者,但能得到报酬的寥寥无几。用户在评论、转发、点赞时完成了对内容的投票,助力该内容能获得巨大的流量。这种剥夺不同于马克思提出的剩余价值理论,广大的用户在碎片化的时间里隐蔽地不知不觉地成为了被平台剥削的数字劳工。

技术具有工具的理性,能够满足人们的某种目的,特别在移动互联时代的背景之下,以大数据为基础的算法提高了分发的效率,但也使人们身陷只浏览自身喜欢的内容的符号暴力之中。如果一味地追求工具理性就会陷入技术崇拜、技术神话的泥潭,因此应该将技术的工具理性和社会的价值属性有机结合,将个性阅读和公共性阅读相结合,遵从社会的道德、法律法规的要求,符合主流价值观,发挥正确的舆论导向。在算法看似客观的把关背后实际上暗含着平台逐利的商业本质,而且这种权力正如波斯特所言,构建了一个“超级全景监狱”,并且是在电话电缆、电线电路和电脑所编织的网络中比较隐蔽地进行的。

注释：

① 毕芙蓉：《文化资本与符号暴力》,《理论探讨》,2015年第1期。

② 杨丽萍：《谈话节目场域中的符号暴力》,《电视研究》,2010年第1期。

③ [德]哈贝马斯：《作为“意识形态”的技术与科学》,李黎、郭官义译,学林出版社1999年版,第40页。

④ 张超、钟新：《从比特到人工智能：数字新闻生产的算法转向》,《编辑之友》,2017年第11期。

⑤ 王茜：《打开算法分发的“黑箱”——基于今日头条新闻推送的量化研究》,《新闻记者》,2017年第9期。

⑥ [美]安德鲁·芬伯格：《技术批判理论》,韩连庆、曹观法译,北京大学出版社2005年版,第100页。

⑦ 谢立中：《现代性后现代性社会理论》,北京大学出版社2004年版,第161页。

⑧ 包亚明主编：《福柯访谈录——权力的眼睛》,严峰译,上海人民出版社1997年版,第158页。

⑨ [美]马克·波斯特：《第二媒介时代》,范静晔译,南京大学出版社2001年版,第95页。

⑩ 刘拥华：《空间、权力与寻找政治——以鲍曼为中心的考察》,《人文杂志》,2014年第7期。