筑起一道防网暴的“墙”
2024-01-05 星期五
睁开眼睛，拿起手机，浏览信息。这已经成为当代人每天醒过来后要做的第一件事，而随着生活与互联网的深度绑定，人们或要面对的是来自赛博深海的怪物凝视——你不知道，你在网上晒出的生活会被人如何挪用、评价，也不知道自己的一句评价可能会掀起怎样的评论，引来什么样的解读。陈子豪是抖音反网暴项目组的一名组员，如果你曾不幸遭受网暴，或许接过他的电话。工作两年，他和他的伙伴们审批了不良评论数亿条，对疑似网暴他人的账号教育提醒85.8万次，对受严重网暴的受害者进行了电话外呼891次。但经常地，陈子豪还会被沮丧和无力感破防。反网暴是一场没有尽头的斗争，除非断网，人永远不可能断绝这来自键盘的恐吓。而他们就是像是在互联网巨大田地中清除杂草的耕耘者，发现杂草，锄头挥下去，日复一日地对抗着那些细小但又破坏力巨大的威胁。一个晚上70条警报
12月20日，陈子豪上班格外早。清晨7点，北京的天还没大亮，他已出现在工位上。昨晚他的飞书“叮叮叮”一直响，他有些担心。果然，一打开电脑，工作平台上显示有70多个警报消息正等待处理。70条预警消息打开，占满了整个电脑屏幕，有的是对新闻的恶意评论，有的是重复复制黏贴的饭圈打榜，还有少数的信息集中攻击几个博主。这些警报来自抖音内部的工作软件，它像是一个24小时工作的机器人，时刻用抖音设置的关键词发现问题，每筛选出一个问题，就会向陈子豪发出警报，告诉陈子豪，它或许“抓到”了一个“施暴者”。然而平台的模型虽然解决了大部分问题，但仍需人工的配合，时常会把一些无意义的评论也判别为“怀疑对像”，因此接下来，还需要陈子豪进行人工判别。这个人工信息处理的过程繁杂而细致，首先他需要一项一项点开警报消息，逐个查看评论，还要参考“怀疑对象”的过往信息。大多数评论，陈子豪可以凭经验一眼看出是好是坏，有些评论则隐晦的多，“比如说摩洛哥炒饼”，陈子豪也是最近才学到这也是一个骂人的黑话，“要把这个短语的首字母写下来，放在一起拼读。”陈子豪注意到，类似于“摩洛哥炒饼”这样的隐晦词变得越来越多，新词被举报出来，陈子豪才知道这些是什么意思，他学到之后再教给只会机械抓取的模型，但是陈子豪感到：这些屏蔽词都不够用了，因为施暴者会“举一反三”，一个词不行，他们能换无数个词出来。每天，他要看数以万计的评论，一部分不良评论是纯粹的情绪发泄，也有的是故意猎奇引流的信息，这些在陈子豪看来算不上严重的网暴。陈子豪更关注的是真正给其他用户带来伤害的信息，比如，公开别人的私人信息，造人黄谣，性骚扰，有针对性的谩骂……根据不同数量、不同程度的恶意评论，陈子豪按照标准给发布者定级定性，之后交给抖音账号的处理处罚团队。这些账号也许会被惩罚5天、7天或者更长时间不可评论。另一部分工作是保护被网暴的受害者。在互联网平台，被网友攻击的原因有很多：一位母亲因为发布自己混血女儿的视频，被网友攻击；一对夫妇长期发布日常生活视频，因网友认为二人颜值差距过大，造谣女方“拜金、出卖身体”；一个中学生因发文抱怨学业压力大、被同学孤立，被一些网友冷嘲热讽…….“其实到现在，法律上都没有对网暴的明确定义。”陈子豪说，因此他只能根据行业的共识和团队不断摸索的经验来判断，“一是看评论数量的量级，然后看这些谩骂的言论是不是都指向个人，还有言论的过激程度，受害者有没有主动举报，以及考虑用户是否属于特殊群体。”如果在团队成员共同判断下，一个用户被“严重网暴”了，陈子豪则需要代表平台给该用户打电话。外呼出的“特殊关怀”
电话外呼是让陈子豪常常感到紧张的时刻。有的用户举报，自己被攻击了多条信息，有的已经停止账号更新，他不知道这个电话打过去，对方会是什么反应。“他会哭吗？还是他会骂我们，或者他万一一句话也不说就是沉默怎么办，还有女性用户被造黄谣，一听我也是个男的，会不会立刻挂断……”在这个十分钟的电话接通之前，陈子豪总要花更长的时间做准备，他怕自己说错了话，反而让对方受到二次伤害。做了“万无一失”的准备后，陈子豪才敢拿起电话。有一次，他要联系的用户是一个有百万粉丝的女性网红，平时在抖音上发自己的日常生活，没有“擦边”或者不健康的内容，但评论区里却乱七八糟，“她和谁谁睡过”，“我看过她的片”……..这类评论总让陈子豪看得怒火中烧。“您好，我是抖音的安全专员小陈，我注意到你可能在经受一些不当言论的骚扰……”电话接通后，陈子豪用尽可能柔缓的语气，可对方的情绪很低，回复也是“一个字一个字”地蹦，陈子豪告诉她，这通电话的目的是想要帮助她，并建议她打开软件内“一键防网暴”功能。通话5分钟后，女生才能对陈子豪说出完整的话来，“在快结束时，女生说，如果两年前她就能接到这个电话该有多好。”陈子豪告诉记者，这个女生成为网红后就被长期网络攻击，两年前患上了抑郁症。虽然在镜头前，她总是展现生活中美好的一面，但背后遭受的网暴犹如不断累加的砖块，压得她在崩溃边缘摇摇欲坠。让陈子豪印象最深的，是今年年初触的一个用户，那是一个粉丝数量只有几十人的老太太，她发的视频数量不多，但突然爆火，还被人扒出了电话。原因是她在家里跳绳，吵到楼下的住户，楼下的住户就发视频曝光了她。网友们顺着楼下住户发的视频找到了老太太的账号、电话、店铺地址，在她的评论区里指责她“扰民”，咒她“全家去死”，还有人打骚扰电话给她。陈子豪观察到，老太太一开始还反击，别人骂她，她就骂回去，但骂她的人太多了，后来她停止了抵抗。陈子豪给她打去电话，她告诉陈子豪，她的电话已经被打爆了。老太太一肚子的苦水倒向陈子豪，说最近自己睡觉也睡不好，去公安局报警了也未能立案。老太太不会使用“一键防网暴”功能，陈子豪就拿出自己的手机，一步一步地描述，先“点这个”然后“点那个”，教她“只允许好友可见”，“只允许好友评论”，“一键举报”……实际上，不是所有的“特殊关怀”都能成功，陈子豪拨出去的电话有一半不会被接起，有的用户在接起电话后，出于一些原因，拒绝接受帮助。陈子豪记得，有次自己打给一个被网暴的男性用户，询问对方是否遭受了不当言论骚扰，对方否认了。陈子豪只好继续告诉对方，如果将来遇到类似情况，可以打开一键防网暴功能。不能只是“放平心态”
经常性地，在电话挂断后，陈子豪会生出一种无力感。网暴有如打不死的九头蛇，打掉一个，冒出两个，恶意的狂欢像扑不灭的火，让他始终奔忙。两年前，他加入反网暴项目组时，是抱着“斩断网暴”的豪情来的。彼时，刘学州自杀案把“网暴”这个词带入大众视野，他毫不犹豫申请加入。在陈子豪看来，“网暴”是一个存在已久但仍缺乏被重视的社会问题。早在上初中时，自己在百度贴吧发贴就被喷、被人肉搜索过。当时他有种“被欺负了却不知怎么反击”的无措。自己女友在直播间被网暴，陈子豪也只能安慰她，让她放平心态，不要看评论，不要在乎别人说什么。但他并不认为“网暴”的处理方式只有当事者“放平心态”，他恨网暴，但治理网暴又是一件复杂的事情。陈子豪发现，被网暴者主动维权的比例不大，“很多受害者没有意识到自己是网暴的受害者，还有些用户的心态比较好，不太在乎，所以没有选择用法律的手段去维权。哪怕是“一键防网暴”这样简单操作的功能，也需要用户自己有意识去打开。另外，有些被网暴者想要维权，发现走法律途径的现实难度很大，陈子豪在跟一些受害者交流之后发现，他们维权的后续进展往往不顺利，“报案后，警察也是建议他们起诉对方侵犯他人的名誉权等，目前并没有针对网暴的专项法律法规。”在法律环境尚待完善的条件下，抖音平台开始尝试引入反网暴机制，率先提出并投入使用“一键防网暴”功能，开启后，用户不会收到陌生人的评论、私信，对不友好的信息也可以一键举报，自上线以来已经被使用了超过百万次。而给受害者打电话进行人工干预，是今年才上线的新功能。在该功能上线之前，同事们曾激烈议论——会不会给受害者二次伤害——不是每个人在受到网暴后，还愿意接到平台方的电话。但他还是一次次拨通了号码，希望能给网暴的受害者增加一个“出口”。陈子豪和同事们认为，网暴的主体施暴者，是几乎所有网络暴力的起源与开端，因此改变发表不当言论的人的心态和行为，比保护被害者更为关键。“我们不是执法机构，我们能使用的手段有限。”陈子豪说，对于施暴者平台会推送提醒“请理性发言”，直至暂停、封禁账号。“希望（政府部门）出台相关法律，或者能有更多比较好的判例，会对潜在的施暴者起到警示作用。”11月7日，在网络暴力法治化治理研讨会上，中国政法大学刑事司法学院院长刘艳红分析，随着线上、线下双重社会空间的存在，以及网络匿名性等特点，不少网民会将线下的负面情绪或不便表达的观点发泄在线上，不利于打造良好的网络环境。刘艳红表示，目前我国网暴治理法治化困境包括立法分散、规定滞后、模糊等，比如《民法典》、《刑法典》、《行政处罚法》都有相关条文可以适用，网暴治理法律体系由民事、刑事、行政等领域的多部法律法规组成，“有的侧重于发展，有的侧重于安全，有的侧重于发展和安全”，要实现统筹兼顾较为困难，不利于有效防治网暴行为。因此，推出一部全面系统的反网络暴力法，进而实现各部门的协同治理已是迫切的时代之需。【版权声明】本作品的著作权等知识产权归北京青年报【北青深一度】所有，未经授权，不得转载。
微信又双叒叕改版了，如果不标星，你可能就会错过我们的推送。星标只需要：①打开北青深一度公众号主页，点击右上角“..."②在弹出的界面，选择“设为星标”。我们期待与你在每篇推文中相见！205元，一个普通人的隐私被“开盒”一个选择“拉胯”的书店老板潜在致毒与安全隐患：化学实验室中“隐秘的角落”