查看原文
其他

对抗偷流量的人:一场猫鼠游戏

罗方丹 真实故事计划Pro 2024-03-07

"

20239月,短视频网红“凉山曲布”被捕。人们惊讶地发现,自己关注已久的贫困少年,实则生活富裕,是传媒公司找的演员。

互联网时代,民众的“创造力”从线下延伸至线上,在网络世界的某些暗角,有人在新闻事件中搅浑舆论,有人通过不当摆拍制造“伪公益”牟利,有人冒充受害者以偷取流量。在这些各怀鬼胎的人身后,一场充满算计,与人性相周旋、守护善意的猫鼠游戏,也逐渐展开。

干净的笑容

“凉山曲布”败露前的大半年,谢千就察觉不对劲。
“曲布这个人,到底是不是真实存在的?”“你们是不是在演戏?”在对接群中,谢千一再追问“凉山曲布”账号的运营者。对方强硬地否认,说曲布就是大凉山的人,家里也确实很贫穷。
曲布的亮相始于一条以“游客视角”拍摄的视频。2022年8月19日,一个ID叫赵灵儿的用户发布第一条抖音,称自己来大凉山游玩时偶遇彝族青年曲布,让他帮忙开矿泉水瓶盖。
曲布邀请她到自家坐坐,抓来一只公鸡要招待她。席间,曲布在镜头前讲述自己8岁丧父的故事:父亲离世后,他和母亲在家养育三个妹妹。母亲积劳成疾,曲布为了分担农活,一直没外出打工,成了家里的顶梁柱,生活十分困难,也一直没谈女友。
镜头中,曲布牵着一头深棕色的耕牛,从山的低处往上走。清晰的下颌线,挺拔的鼻梁。额前几缕碎发剪得很高,露出乌黑的眼眸。
背景的群山正沐浴着晨间金阳,碧蓝的天空下,男孩突然看向镜头,露出两颗虎牙。
图 | 镜头中的曲布

“贫困的家境”、“干净的笑容”、“淳朴的品性”,这条几分钟的视频,瞬间击中了屏幕前数百万观众的内心。在连续发布四条关于曲布的视频后,账号“赵灵儿”粉丝量飙升至110万。此后半年,赵灵儿常发布自己去探望曲布的视频,看他用镰刀砍庄稼,给他买礼物,改善他的居住环境,最后给曲布开账号,教他直播卖当地蜂蜜等土特产。两人的故事走红了。建议他们在一起的呼声,和流量一起,在半年内持续高涨。

时间又过了半年左右,2023年9月20日,四川凉山州在新闻发布会上宣布,以“凉山曲布”“赵灵儿”为代表的四川首例“系列网红直播带货案”被侦破。人们惊讶地发现,“凉山曲布”“赵灵儿”两人并非贫困少年和外地游客,而是四川某传媒公司在大凉山找的两个演员。

“曲布”的真实身份是凉山州当地教师,在以“大凉山原生态帅哥”的形象出现前,自拍中的他皮肤白嫩,留着精致的锡纸烫卷发,戴着项链,穿着时尚。在视频中自称单身、与曲布频频擦出火花的赵灵儿,则是已婚已育的个体商户。视频中的两人都非“本色”。他们通过设计剧本、话术,挑选当地无人居住的泥土房进行拍摄,打造贫困人,打着助农旗号生产销售假冒大凉山特色农产品,涉案金额超千万元。最终,“凉山曲布”和“赵灵儿”等人被判处有期徒刑8至10个月不等。

凉山曲布”的“翻车”并非孤例。实际上,在此次案件侦破前,已有平台针对此类伪公益进行了集中治理。2023年5月,抖音就更新了其《公益内容治理规范》,对利用公益进行不当营销、传播不实信息的“伪公益”行为进行打击。

在“凉山曲布”账号刚火起来的2022年8月,谢千就对接上账号幕后的运营者小虞。作为三农领域的运营,短时间内粉丝快速增长的用户,谢千都会去建立联系。彼时,曲布和赵灵儿还未通过直播变现,也无人举报其造假行为。但“偶遇蹭饭”的剧情,谢千已在平台看过不止一次。她直觉认为曲布与赵灵儿的故事,涉及不当摆拍,有令人生疑的成分。

然而,由于小虞一口咬定拍摄内容为真,谢千没有实质性证据,没法为其定下涉嫌诈骗的名头。她只能告诫小虞,以后不要再拍这类内容,看起来很假。此外,她还有别的担忧:“你这样导向性很不好。比如一个陌生男人到女生家蹭饭,你在视频里演绎的都是很好,没有危险,如果真的有人看到这个视频,真的有人去学习,造成一些危害行为后怎么办?”

谢千知道,不当摆拍的危害性不只在于虚构本身,还在于其对现实的曲解。不当摆拍的内容,服务于流量,迎合着人心,却通常会放大生活中不存在的戏剧性、忽略原本存在的风险,更有甚者,会挪用人们的善意,从中牟取私利。

其实,参与抖音不实信息治理项目工作的一年里,这不是谢千见过的第一起案例。

一个叫韩文的博主,曾被其团队前成员爆料造假过程。韩文拍过一个视频:一位大凉山当地老爷爷在地里摘苹果,摔倒后躺在地上哭。在获得各方关注后,韩文开始在老爷爷家直播卖苹果。他从上午8点开始播到次日凌晨4点,用完了4个充电宝的电,卖掉三四万箱苹果,销售额达100多万元——这些苹果,与老爷爷毫无关系,而是来自韩文合作的供应商。这场直播,韩文收入佣金近40万元。

为了塑造悲惨人设,韩文曾在大凉山用手掐一个小女孩,只为让她在镜头前痛哭,在视频里给小女孩发的报名读书的钱,后被证实在拍完后全部收回。

 | 韩文视频截图

伪公益”类不实信息披着行善的外衣作恶,会对公众信任造成严重伤害。5月,在此类骗局揭露的浪潮中,一位经常在“助农直播间”购物的网友感受到信念的崩塌:“当我知道其实我买的‘助农产品’并不是真正的本地特产,我花出去的钱也没有到农民手里后,我非常失望……难道每一次行善都要小心谨慎?

“再也不会相信这些悲惨的故事了”“到底还有什么可以相信的?”在事实发布的视频下,曾抱有善心的人们,倾诉着与此类似的感受。

几年前抖音不实信息治理项目启动以来,“伪公益”类信息一直是项目组同事们日常巡查的重点。2023年5月,在各方关注下,专门针对“虚假卖惨”进行整治的《公益内容治理规范》在抖音更新。规范规定,账号如在抖音平台发起慈善募捐,主体需持有相关资质并认证。而公益类账号,除筹款功能外,不得进行直播打赏、电商购物等营利性行为。

禁止公益类账号变现的规范发布后,曾一度引起质疑。“变现是一个中性词。公益主播也需要收入,不然怎么支撑公益事业?”在规范发布的评论区,有人提出问题。

事实上,这个问题也曾是平台项目组讨论的焦点。“我们今天讨论的,是怎么把这些用户的善心最大程度地保护起来。”在一个征求外部意见的讨论会上,一位专家的发言获得了多数人的赞同。

会议室里除了项目组成员,还聚集着十几位专家,包括律师、学者、慈善机构人员等。“尽管有些行为不一定构成犯罪,但是它利用大家的善良,破坏公益的生态,中间还有明显的毛利。”一位参会成员对平台的严格管理提出认同,认为平台应该担负这样的责任,为分辨能力不强的用户提供好的体验,为真公益的发展创造好的环境。

这次对“伪公益”的严厉打击,成效颇丰。抖音官方账号《抖音黑板报》发文称,2023年4月至5月,抖音已下架相关视频1131个,对3518个账号进行了无限期封禁等处置,并抹除其不当获取的新增粉丝,取消其变现功能权限。在抖音发布新规后2个月,2023年7月,凉山公安在“系列网红直播带货案”中抓获犯罪嫌疑人54人,其中涉案网红主播11人,捣毁涉嫌虚假宣传的MCN公司5个,查封涉案公司14家。警方还发现了生产假蜂蜜的基地:里面堆放着制假原料20余吨、制假设备3套、假冒成品4700多瓶。

然而,直到真相败露,人们仍要为曲布那个干净的笑容辩护。“赵灵儿的确让人怀疑,但是曲布,他那害羞的笑容、腼腆的表情、清纯的气质,一看就让人心生怜惜。怎么可能是假的?”在2023年9月宣布网红“赵灵儿”“凉山曲布”被当地公安逮捕的视频下,这条留言仍有很多人点赞。“无论如何,我是相信曲布的。”“他一定是被人利用了。”人们如此评论道。
不实信息的制作者们,好似天然有着把控人心、游走于灰暗地带的能力。为了守护人们的善心,在公安还未介入、难以掌握实际证据的“混沌阶段”,平台与不实信息制作者们展开周旋,进入一场场充满算计的猫鼠游戏。
猫鼠游戏
“凉山曲布”证据确定前的情况类似,20235月,抖音参与治理伪公益的工作人员李茜发现,许多博主发布了自己在大凉山伐木、背木头,做重体力活的视频:他们有着同样黝黑的面庞,脸上的泥土痕迹有些刻意,以同样的姿态佝偻着身体,背着将脊背压弯的木材,向观众展现着生活的重压。
这类视频没有情节,难以让人一眼识别出真伪,却以极其相似的面貌集中在同一段时间内出现,有不当摆拍之嫌。如何确定这些内容并非投稿者的真实生活?验证真伪,是治理不实信息流程中的困难点。
 | 凉山孟阳视频截图
不实信息治理的流程,大致分为发现、研判、验真、辟谣和治理几步。在发现阶段,针对知识类不实信息,辟如养生食补、健康科普类信息,项目组会应用已建立的谣言点内容词库,与用户发布的内容进行匹配,也会根据用户举报收集可疑信息,进行研判。在研判和验阶段,会参考有权威背书的媒体和当地政府信息,甚至与当事人建联进行查证。在治理阶段,对不实信息进行召回或拦截,对账号进行处理,如涉及犯罪行为,则将信息提供给公安机关。在辟谣阶段,项目组会推动联系权威媒体、专家等发布辟谣信息,并进行推广。这是一套覆盖信息生产与传播全流程的治理步骤,完整且可循环。
李茜对“背木头”的视频进行验调查后,她发现有人注册了两个账号,在同一段时间内,一个分享富裕的日常生活,一个发布背木头的视频。进一步调查,有些博主的直播间收入与其展示的生活并不对等,由此确定,投稿者发布的贫困生活内容,有欺诈的性质。
巡视到可疑信息后,李茜会进行研判,再联动平台各个小组核查真伪,包括与当事人建联沟通。在与领域内博主日常对接的过程中,谢千也曾偶然发现隐藏在账号背后,一位博主差异巨大的真实生活图景。在粉丝们的眼中,“凉山孟阳”的处境令人同情:作为家中长女,她穷得上不起学,辍学照顾弟妹,每天砍柴、背木头、吃土豆。加了她的个人微信后,谢千才发现,孟阳在山下有一栋新房,自拍中的她开着名车。“晚上回到豪宅,白天去大凉山摆拍。”孟阳毫不避讳发布的炫富朋友圈,和她的抖音视频形成鲜明对比。
在与信息造假者们周旋的过程中,谢千逐渐洞察出细微的人性。有人马上主动下架了视频,给自己改了名,去掉昵称前冠的“凉山”两字。这是心虚。有人要向平台讨说法:“我拍的内容都是真实的,凭什么封禁我?”他们相信只要没有确凿证据,平台终究还是会把他们放出来,因此一口咬定。这是虚张声势的强硬。
为杜绝打着“公益助农”旗帜售卖毫不相关的商品,平台曾要求运营者们提供贫困相关证明或助农资质。在工作一段时间后,谢千发现,“证书”也并不能完全为人背书。“凉山曲布”的团队在一开始就提交了证书。当地政府曾给他颁布一个类似爱心公益大使的证书,表彰其帮助售卖当地核桃。然而,事后公安机关查证发现,曲布确实卖了一些当地核桃,却只占少部分,更多核桃都是从外地供应商处购买,混杂其中,高价出售。
没有收集到核心证据时,这样涉嫌不当摆拍、导向性存在风险的内容处于灰色地带,谢千没法替账号背后的人们做决定,也没法强制处理。她耗费许多时间与“凉山曲布”的运营者小虞周旋,尝试引导其停止不当摆拍。
最终,小虞仍然没有听从谢千的建议。此前,他们公司曾做过许多类似账号,一直不温不火,只做出来曲布这一个现象级网红。
2022年夏末的一场直播中,同时有6万人在线,观看赵灵儿和曲布在大凉山煎鱼。一条和赵灵儿小臂一般长的鱼,被放进院子里的一口铁锅,冒出滋滋的声响。比人高半个头的砖瓦墙后,金阳照耀大山,树叶翠绿,鸟鸣啁啾。
 | 赵灵儿煎鱼

评论区有人提示灵儿,鱼该翻面了。她马上操作好,又对着镜头说,“做得非常成功,还好听你们的话。哥哥姐姐们太聪明了。我们笨得要死,所以才混得这么差。”盛鱼到盘里时,曲布又露出招牌的笑容,温柔地嘱咐:“小心别烫到,还是我来吧。”

“大家把赞点到1000万!”赵灵儿的声音逐渐亢奋起来。

简陋的泥土房上,飘起源源不断的气球与红心。点赞很快冲上千万。评论区里感动的言语不断冒出:“灵儿,你是曲布的贵人,是曲布的指路明灯,引导他向上……让善良、孝顺、淳朴继续保持,谢谢你的大爱。”布满鲜花和爱心的字句写得动情,仿佛浸着良善之人的泪水。躲在“凉山曲布”账号之后的运营者小虞,就在这里尝到了甜头。
无尽的博弈
2023223日,安徽阜阳一女子被前夫家暴的视频在互联网上引发关注。视频以监控录像的形式出现。画面中,一位男子一边叫骂、一边在家中对女子拳打脚踢。当晚,发布视频的女子又在平台直播,称自己被前夫家暴,已经报警。
惨厉的家暴情景迅速勾起人们的愤怒与同情,“报警”的说辞,又为视频增添了更多可信力。人们呼吁严惩男子,将事件推向舆论高点。自媒体与媒体账号,也迅速转发消息进行跟进。
然而,仅在两天后的2月25日,警方公布的完整视频就揭露了其中骗局:在男子殴打女子之前一个小时,两人已经多次进行预演拍完后,两人有说有笑,一起看电视。“自媒体号注册人谭某为博取同情、吸引流量,与前夫摆拍视频并在直播时谎称报警”,真相发布后,人们才知道,自己的感情又错付给了摆拍与谎言。
事实上,早在5月专门打击“伪公益”类不实信息的《公益内容治理规范》发布2个月前,针对“不当摆拍”类信息进行整治的规范就已经在平台内更新。“伪公益”只是其中一个细分类型。
2023年以来,随着三年管控的放开及人口流动,少数造者的“创造力”与“创作热情”再度被激发。线下的造假举动,也不时蔓延至线上。

然而,此次事件中工作人员们发现,在一些无法及时核实真假的事件中,用户传播信息的速度之快,超乎想象。在事实发布前,舆论就会爆发出强大的力量——平台必须更先一步介入,及时对用户发出警示。

2023年3月,抖音发布《关于更新“剧情演绎”类视频创作规范的公告》。根据规范,“演绎类视频”在发布之前,创作者需要对作品进行标注:“该作品为演绎作品,仅供娱乐”“该作品题材取自网络,请谨慎辨别”“该作品为日常生活,勿过分解读”。在发布后,如平台发现作品真实性存在疑问,也会向创作者发私信,提示其作品疑似存在“演绎与不当摆拍”,让创作者进行打标。

 | 抖音向用户发送的提示
这样,在事实水落石出之前,针对社会热点类存疑信息,抖音会第一时间打上标记,提醒用户内容存疑。在媒体报道发布之后,他们会再次对相关内容设置跳转链接,引导用户观看媒体发布的事实内容。

然而,不实信息的形式总在不断升级。一个规范的发布,并不能一蹴而就地解决所有问题。例如,在AIGC等新技术的助力下,成员们发现真假之间的界限越发模糊。

2023年4月,一条“中电科员工清明节无偿加班怒怼领导”的消息传遍了四处。话题引发热议,人们纷纷开始质疑中电科用工问题。在调查后,项目组成员发现,这条消息是由AIGC生成的文本,并非由真人创作,首发者在微信群里发出,再被人搬运到抖音上。最终,成员们将相关视频下架,放大了政府、涉及公司与媒体发布辟谣消息的声量。

社会热点类不实信息,通常以半真半假的形式出现,难以识别,更难以辟谣。2022年疫情期间,“葱姜煮水,能治新冠”的消息,就在平台广为流传。彼时,项目组成员邀请健康类媒体发布了针对性科普,又找李兰娟院士发布了科普内容。2023年支原体肺炎期间,已经被辟谣过的这条信息又卷土重来。

辟谣之后,人们仍然不信,这是项目组成员自项目成立以来的一大治理难点。战争中的阴谋,弱者被辱的故事,葱姜水能治肺炎——即便是谣言,比起真相,人们也更愿意相信,“他们觉得这件事就该是这样的。”

2023年,平台陆续推出了预警、溯源、提醒、跳转、谣言入库、拦截、打标、推送等多项能力,试图在各环节围剿花样反复的不实信息。2023年第二季度,抖音辟谣官号发布“高考虚假卖惨营销”“外卖小哥爬山送外卖系摆拍”等37条热点辟谣内容,视频播放量0.45亿;抖音媒体辟谣团投稿量196条,视频播放量1.45亿;“谣零零”计划话题下视频投稿量477条,视频播放量1.03亿。

直至今天,如何应对新闻类信息仍是项目组内部争论不休的难题:在还在演进的新闻事件中,在官方通报与媒体报道发布之前,怎么应对尚未得到验证的信息?平台该用多大的力度去管控它们?不实信息的标准,仍在不断修订与讨论之中。

 | 负债新闻截图

在“三句话,让男人为我花了18万”之后,2023年,项目组成员又观测到新流行起来的不实信息:“我创业之后负债百万,在成都街头啃馒头”“邻居家孩子考上清华不去,去国防科大”“离婚之后,我获得了新生”——这些都需要项目组依照规则和体系化流程研判、处理。

“谣言是一个从人类会说话开始就存在的东西。”在不实信息项目组工作多年后,负责审核与治理的工作人员蒋实认清了一个现实:“我们可能永远没有办法把它彻底干掉。”在未来,旧的问题还将反复,新的问题必将出现。他们必须随时做好准备。

* 文中受访者信息有模糊处理

- END -

撰文|罗方丹

编辑|温丽虹



 往期回顾 


继续滑动看下一个

对抗偷流量的人:一场猫鼠游戏

罗方丹 真实故事计划Pro
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存