互联网内容“守夜人”

陈光

“大家看到的这个世界是由所有人呈现的，而历史上我们看到的世界是由少数人呈现的。今天所有人一起参与呈现这个世界，当我们以这样的方式去观察和感知这个世界时，背后有一些新的社会问题就出现了”。

年初至今，李军经历了一场穿梭于昼夜，险些“摧毁灵魂”的冒险。

90后的李军是武汉青山区人。去年底，他经历5天的封闭培训和考核，签了保密协议，成为快手的内容审核员。他没想到，刚入职3个月，就亲历了一场净化短视频平台的“最强整顿”。

4月4日，国家广播电视总局约谈快手和今日头条两家网站的主要负责人，要求其全面清查库存节目，立即下线低俗、暴力、色情等有害内容，并追究相关人责任。约谈之后，罚款、下架、永久关停等几大监管手段齐下，急速发展后，今日头条、快手等互联网内容平台亟需迈过监管这道坎。

“新的社会问题”

快手创始人兼CEO宿华没有出来说任何话，直接道歉。

4月3日，宿华在其个人微博上发表长篇文章《接受批评，重整前行》。当天，宿华还出现在快手和清华大学合作成立未来媒体数据联合研究院的活动上，他说，“大家看到的这个世界是由所有人呈现的，而历史上我们看到的世界是由少数人呈现的。今天所有人一起参与呈现这个世界，当我们以这样的方式去观察和感知这世界时，背后有一些新的社会问题其实就出现了。”

这些“新的社会问题”比所有人预想的严重。

随着短视频平台壮大，每天都有海量新类型的用户生成内容被上传到网上。这其中包含不少传统色情、暴力等分类覆盖不到的新型违规内容。快手成立8年，有7亿用户，审核成了头等难题。

3月31日，央视《新闻直播间》节目报道了快手和今日头条旗下火山小视频等短视频平台出现大量未成年人怀孕视频，以未成年人生子为噱头广泛传播，造成不良社会影响。4月3日晚间，新华网微博也发文《别让“社会摇”等低俗视频晃散了你的“诗和远方”》。“社会摇”是从短视频平台兴起的一种舞蹈形式，人们跟着强劲的节奏摇摆，即兴发挥。这类行为引得部分小学生和中学生模仿，对校园环境造成影响。

就连曾经深爱着它们的用户也开始渐渐对平台产生反感。北京白领王峰算是快手的老用户，现实中，他几乎没机会和快手上的网友接触。他认为，是技术让这部分人把自己的生活剝出来一部分，拓宽了他的体验，而且这份分享是真实的，不是演出来的。

快手、今日头条旗下的抖音、火山小视频等都依托于算法推荐，每个用户的页面都独一无二。平台会根据用户点击的视频类型，迅速分析用户感兴趣的领域，并马上推送类似内容。

一开始，王峰对推送的内容很满意。但渐渐地，王峰发现，有时快手会自动向他推荐一些从未关注过的视频，如美女主播类，疑似家长拍的小孩子裸体视频。这触碰了王峰的底线。他也看到一些低龄孕妇的视频，他认为，这些孕妇并不是记录真实的日常生活，而是利用自己的身份特点去博眼球、要关注，是以炒作盈利为目的。

王峰也一直好奇，算法的背后到底有没有人工指导。“背后如果是一个人的话，这个人是谁？他凭什么？如果真有这么个人，还蛮可怕的。他是算法还是人？”

“算法有无价值观”

“分发机制理想状态靠算法，实际操作看人工。”一位短视频运营人员说。据他介绍，每个大平台都会从企业盈利角度推选一些他们认为会火的话题，至于这些推送是否低俗则不是企业的首要考量。

成立于2012年，今日头条是国内早期以数据挖掘技术和智能推荐算法为核心竞争力迅速壮大的平台。在这里，“你关心的，才是头条”。在去年一场活动上，今日头条创始人张一鸣称，“今日头条不是媒体。我们更关注信息的吞吐量和信息的多元。我不能准确判断这个好还是坏，是高雅还是庸俗。”这翻话让张一鸣一度陷入舆论漩涡。

而宿华则一直对算法持谨慎态度，他说就算法是否有价值观这个问题，自己想了30年。“小时候是看科幻里面，经常会讨论机器人有没有意识、价值观，其实算法本身是没有价值观的，但是算法是人去定义、搭建的。”他曾说。

内蒙古赤峰市的阿其也是快手用户。去年大学毕业， 他在一家牛肉干工厂做车间工人，那时开始用快手，在快手，他发现了很多设计签名的网友，也开始发自己设计字体的视频，有1万多粉丝，本来通过快手展示才华，找到志趣相同的朋友是件好事，但一些莫名出现的视频让他不舒服。

当看到一些穿着暴露的主播视频时，阿其会根据系统规则，选择减少此类作品出现的功能，但他发现这种拒绝不管用，类似视频还会时不时地出现。

有次，阿其举报了一位满身文身，说大量脏话的男网红，但快手系统回复他说该用户被认定没有违规。

然而，阿其自己的内容却被判定违规。他是蒙古族人，有一次在快手直播时用蒙古语和朋友聊天，内容是他今天有空，大家可以一起吃饭，每句后面他都用汉语再翻译一次。当时他还放了一首蒙古语的流行歌曲《雨》，歌曲怀念草原上的雨和逝去的爱情。

这在阿其看来极为平常的内容，却突然收到系统通知：“您的直播A类违规：政治，已被永久封禁直播。”

阿其不明白用家乡话和朋友约饭，放抒情歌曲怎么就和政治有关了？在违规申诉中，他写道，根据国家法律，自己有权合法使用民族语言。快手可请懂蒙古语的人回放视频，绝无任何违法违规内容。

“守夜人”

阿其算得上是一桩“冤案”，他的账号终被解禁。

而4月10日，今日头条旗下“内涵段子”应用程序及公众号面临的则是永久关停，其原因是存在导向不正、格调低俗等突出问题。

人民日报微评论称，“只要价值，不要价值观，甚至鼓吹‘算法没有价值观，就难免出事。产品不能沦为算法的奴隶。”这次整顿的一项重点内容就是对平台的算法推荐进行优化，增强审核能力。

风口浪尖上的算法到底是什么？快手CEO宿华曾给了个简单版本的介绍。“算法核心是理解。理解内容和人的属性，人和内容历史上的交互数据，然后通过一个模型，预估内容与用户之间匹配的程度（也叫特征）。比如有这么几个人都共同喜欢同样一个人，我们就会認为这些人具备了相同的某个特征。”

然而，看似很聪明的算法却失灵了。当前阶段，人工智能并不能完全胜任视频流内容的审核，多用于文字内容。比如在用户发布的帖子、留言、文章中检测到非法词汇内容，就会删除这些内容，并向用户发出警告，甚至直接封号。很多低俗的图片或者视频，人工智能无法像识别文字般精准审核，因而只能成为人工审核员的助手。

今日头条内容质量中心负责人、副总编辑李彤也表示，“对于广告信息，机器会识别并标注;对于标题党，机器会识别并提醒作者，如果作者不修改，机器会降低推荐权重或直接拦截，对于虚假信息、违法信息、色情信息，则主要依靠人工审核。”

遇到监管这一难题后，今日头条宣布将审核团队从6000人扩大到10000人，“快手”宣布将审核团队从2000人扩大到5000人，月薪4000-9000元，都要求“共产党员优先”。目前快手在北京、天津、武汉等六地建有审核中心。

“你们看不到的，我们都看了。”李军说从1月入职起，他和同事每天工作12小时，做一天休一天，一个月有4到5次通宵班。忙的时候，每人一天要审核150部视频，正常的工作量是人均120部，视频20秒到4分钟不等，多以两倍速度快进播放，李军大概每日会遇到40部正常视频，30部“比较辣眼睛”但不涉及违法内容，25部属于反人类的，15部涉黄，剩下10部血腥暴力。

高强度熬夜让一般人扛不住。由于夜晚正是用户上传视频的高峰期，快手相关负责人也指出为高效整改，宿华特地提出了“守夜人”的概念。

然而，审核人数还是承载不了瀑布式的视频量。

2018年春节期间，快手用户单日上传视频数量突破1500万条，每分钟上传视频的峰值达到43000条，创历史新高。这意味着快手原本的2000名内容审核员，要在机器的配合之下，对每天1500万条视频内容进行审核。

“低俗”，是这轮整肃中出现最多的一大“罪名”。但是包括《网络安全法》在内，都没有对“低俗”的定义和说明。在实际操作中，情色、淫秽、下流好判断，但低俗和色情就不好判断。此外，每个平台对它认定的标准都不一样，比如某些直播平台，对女主播在直播时，跷二郎腿的换腿频率有规定，多少次以上就属于性暗示，就涉黄。

睁一只眼闭一只眼

尺度一直是网络监管的难题。

虽然《网络安全法》和去年施行的《互联网视听节目审核通则》等相关法律法规不断完善，但复杂的审核标准和多变的违规内容让审核员头疼。

更让他们琢磨不透的是飘忽不定的“内部标准”。早在央视曝光低龄孕妇视频前，李军和同事就已注意到这类视频的势头。一低龄妈妈哺乳的视频让李军判断应该审掉，虽然画面并没有露点。李军认为，哺乳本身没问题，但把这一行为拍成视频发到网上就变了味。但这类视频“老大”都让过了，“老大”就是部门领导。

李军和同事也比较反感社会摇这类视频，“一天看50部社会摇，你烦不烦？”他们觉得这种视频没有营养，和低龄妈妈类视频一样，容易带坏未成年人，算低俗，但“老大”也都通过了。

“这类国家没有明令禁止但内容又有些不妥的，老大就睁一只眼闭一只眼。我必须说一句，那些看了脑残视频后说我们审核员是脑残，这种视频都让放的，这锅我们不背。”

其实，宿华也经常纠结，他发现一位身患罕见贫血病的用户经常以一些出格的方式炒作，获得关注和打赏。他知道此人会用这些打赏的钱治病，但有时他博关注的行为过分了，经过权衡，审核人员还是会删掉一些内容，并通过系统劝诫他。

得知快手招聘审核员的第一时间，阿其投了简历。他是共产党员，大学专业是马克思主义学院下的行政管理系，他应聘这份工作有个私心，因为有过被快手“封号”的经历 ，阿其希望快手能有一些他这样会少数民族语言的审核工作者，减少出现类似误会。

自救运动

卷入了短视频的“最强整顿”风暴后，快手查封了大量违规账号，无限期关闭推荐相似用户的功能，并将对视频分级，严格过滤未成年人看到的视频。截止4月14日，快手已经清理问题短视频31万条，封禁5.6万名用户，清理6.5万个用户名。

宿华道歉信中称，算法的价值观就是人的价值观。快手将优先推荐个性化的更符合用户兴趣的正能量作品，放大优秀作品的影响力。

“快手的审核规则一定是越来越严的，我们的递进逻辑是，法律法规为底线，公序良俗为参照，重点打击低俗三观不正的内容。”快手负责人说。

“网络监管全世界都有，是个很正常的事。不过，我们国家的监管相对较严。”李振华说。面对全球性的网络监管大势，李振华觉得不管在法律、技术、产业和道德伦理等领域，都有很多值得社会各界共同探讨和思考的空间。

（王允荐自《看天下》）