作家 |  木风

那是场捏续了个多小时的里面磋商会。二十多个东谈主坐在起，盯着投屏上的同条挑剔，意见僵捏不下。

挑剔唯一几个字："是不是快 7 天了？"发在个普通女孩的底下。

她的里出现了件挂着吊的裤子。就这样个画面，挑剔区涌进来几百条访佛的话——"快退货吧"" 7 天情理""是不是快到期了" …… 单拎出来看，每条王人不算出格，裁夺算嘲谑，暗指她网购衣着"蹭穿"。但当几百条一样指向的嘲谑密集地向同个东谈主时，有东谈主合计这即是网暴，有东谈主合计仅仅玩梗。

"什么是玩梗，什么是阴阳怪气，什么是网暴？这个界限很难分辩。"抖音集团网暴理运营郝哲（假名）说。那条线划在那边，决定着个平台对抒发解放和用户保护的指令，也决定着上亿东谈主每天的发言会被如何对待。

个平台每天可能有着上亿东谈主发表个东谈主言论 /《热搜》剧照

224 年 8 月国厚爱推行《聚积信息理章程》，平台箝制加多对网暴理的参加。226 年 3 月 23 日，抖音基于海量的理实践，升新版《抖音聚积理要领》，对关连法律限定进行系统的阐释与落地。

这不是次神圣的王法新。曩昔几年，网暴本人正在发生刻的时势变化——从全网围攻热门东谈主物，到小圈子里对素东谈主的苦衷围猎；从眼可辨的脏话吊问，到莫得个脏字却足以让东谈主崩溃的集体嘲讽。旧的王法和技艺，一经不够用了。新规背后，是整套理不雅念的迭代：网暴该若何认定，技艺该若何用，平台的手该伸到那边、又该在那边收转头。

那条"是不是快 7 天了"的留言，正在等来个清醒的谜底。

莫得脏字的

比争议难处理的，是那些连坏心向王人看不出来的挑剔。包包（假名）次看到那条挑剔的时候，愣了几秒。

"光宗耀祖。"

四个字，端端正正，放在大部分语境下王人会是个褒义词。发在个嫁给外籍丈夫的女孩下，单看也莫得问题。

但包包往下翻了翻。二条，"光宗耀祖"。三条，如故。弹幕里飘的亦然这四个字，密密匝匝，像面声的墙。她是抖音网暴理团队的线职工，日常责任是从海量实质中识别网暴事件，定位受害者和施暴者。此次，她花了比平时长的时代才作念出判断：这是网暴。

被聚积的东谈主庸碌会被涌入的坏心评价影响生计和身心 /《仇恨标签》剧照

同个词，在不同的事件里含义可能不同。几千条看似正面的挑剔聚在起，指向同个东谈主，就从笃定变成了嘲讽，从嘲讽变成了围猎。但你没方针把"光宗耀祖"作念平台层面的统处理——在别的底下，它可能确切即是句夸赞。

这是网暴理中令东谈主头疼的实验之：不定带有脏字。

另个让包包印象刻的案例，是个女博主。她形体健壮，心爱健身，格调跳脱。网友发现她的色彩酷似民间听说里的，启动在挑剔区刷个看上去像玩梗的、与她名字关连的谐音词。

启动她合计可笑，还点了赞，回复"哈哈哈好可笑"。但谐音梗以难以意料的速率，从几条变成几千条，从挑剔区延迟到弹幕和二创，她的笑容色彩散失，修起渐渐变成了"能弗成不要再这样说了"。再往后，她启动删挑剔，发展示过错她的实质截图，反复自证。

挑剔区的坏心赶紧推广，被聚积的东谈主堕入尽的自证，也难脱身  /《时光代理东谈主》剧照

包包和共事们的责任日常，正是从这些细微的步履变化中捕捉信号。"她早期给这些挑剔点赞，其后启动删了，说明她注重了。"在网暴理的逻辑里，受害者的步履是判断伤害是否竖立的进击依据之——这件事不是由平台的主不雅感受来界说，而是需要当事东谈主的真实响应来考证。

网暴的时势在剧烈变化，这是新规出台的中枢配景之。郝哲回忆，221、222 年他脑海里的典型网暴，如故那种全网集体声讨的热门事件，过错指向个东谈主。但当今，越来越多的网暴发生在小圈子里，针对的是从未出当今公众视线中的素东谈主。

"个女大学生在网上共享校园生计，圈子即是学校里那些东谈主，加上少数刷到的网友。"郝哲说，"但有东谈主造了她的黄谣。对这样个普通东谈主来说，哪怕唯一几千的流量，中间有极少东谈主的坏心过错，她就一经很受不清醒。"

《热搜》剧照

新规正是为了修起这种变化。它将网暴认定建树在三个因素上：指向特定当然东谈主的"指向"，对当事东谈主身心健康等变成较为严重不良成果的"危害"，以及信息或步履呈现开阔、重迭或捏续特征的"限制化"。三因素缺不可哈密不锈钢保温工程，每个事件王人需要基于事实、字据和具体语境作念个案评估。

郝哲阐扬这套认定尺度的底层逻辑：网暴不是个不错被神圣界说的看法。句话是不是网暴，取决于它指向谁、变成了什么成果、以及在多大限制上发生。

而理它的步，恰正是承认"界说"本人即是难的部分。

从海量用户里找到阿谁东谈主

界说难，主动发现个东谈主正在被网暴，难。

很猛进度上，它依靠的是个需要从海量日活用户中，识别出谁正在碰到过错的系统。

包包每天的责任王人是从个信号启动。这个信号可能来风物模子的自动识别，也可能来自团队里面的预警群。" OK，这个账号当今被网暴了"，或者"这个事件里有当事东谈主需要关注"。接到信号后，责任分三步：研判、处置、保护。

研判阶段，她和共事们会先用我方的抖音账号，以旁不雅者的视角去看：当今大在骂谁？聚积上呈现的事实信息大略是若何的？然后核实这个用户收到了哪些挑剔、发布了哪些实质、有莫得发起举报。淌若用户是未成年东谈主，或者老年东谈主、劣势东谈主士等"数字弱势群体"，会被归入先保护的类别。

用户为未成年东谈主、老年东谈主或劣势东谈主士等"数字弱势群体"，平台会先保护

当今，新的模子介入后，系统会自动汇总个事件的节录和基础风险分。郝哲先容，新技艺大的变化是输入维度的扩展，看的是整套步履非常信号：用户有莫得删挑剔？有莫得"断网"？有莫得在挑剔区说"大不要再骂我了"？这个用户的被搜索量是不是一会儿飙升？被说起的在不在加多？甚而，头像和贵寓改成了什么？总共这些细微信号王人不错输入给大模子作念研判。

"率进步了，比拟曩昔，能在一样的时代里保护多可能的受害者。"包包说。

另个进击升是风险信号识别的时代窗口。升前监测 3 天到 7 天，件事过了 7 天再有动静，系统就当它是新的。"但过错的东谈主有牵挂，被过错的东谈主也有牵挂。"郝哲说。许多网暴事件捏续数月甚而久，受害者可能断网段时代，再转头时如故那波东谈主在过错，系统却以为这是个新事件。当今时代窗口升到个月以上，"咱们还合计不够，还念念连续升。"

技艺在提速，但有件事它作念不了，也不应该作念——判定。

抖音每天海量的实质里，大多数日常事件，系统不错依据新规的三因素识别是否属于网暴。但网暴的复杂在于，实在难办的从来不是那些长短分明的个案，而是灰地带——玩梗如故过错？心扉发泄如故有组织的围猎？宽泛的公论监督如故对个东谈主的越界伤害？

《黑镜》剧照

关于这类复杂事件，平台会触发套"共同有筹算"的机制。参与研判的不仅仅网暴理团队成员，还包括法务、全球策略、传播学配景的延续东谈主员、居品司理，有时也会引入外部学者的意见。不同行视角的碰撞，是为了确保个判定尽可能公正和审慎——而不是由算法、或者某个东谈主的主不雅感受来决定。

这正是郝哲反复强调的这套体系的中枢原则：机器擅长的，是从几亿用户中筛选出哪些东谈主可能在被网暴，把与他们关连的挑剔、、搜索数据团聚起来。筛完之后，是东谈主来作念下的判断——证明这件事的质，决定介入的式和力度。"机器作念筛选，铝皮保温东谈主作念判断，"他把这句话重迭了不啻次，"技艺处分限制问题，东谈主处分判定问题。"

研判完成后进入处置。对施暴者的处置是梯度化的，从发站内信指示渐渐升，直到庸碌、恶劣的操作触发严厉处罚。

处置的同期，保护也在伸开。关于被识别为风险的受害者，会有门的东谈主工外呼团队给他（她）电话。这通电话的真理，通常不在于处分具体问题，而在于破受害者"寥寂援"的感知。

线外呼职工李倩（假名）在电话之前，会先作念情态建设："要先了解这件事的配景，他（她）为什么被网暴，看到那些骂他的言论之后，他（她）当今会是什么情景。"李倩不会凯旋套话术，"我要把他当个活生生的东谈主去疏导。"

有时，她还要作念好承受电话那头热烈心扉的准备，这通常是难的时刻。不论对面是仇怨、啜泣、震怒，甚而咒骂，她王人要照单全收。因为她还有进击的事要作念——把对从端心扉里拉出来，止严重的情况发生。

对需要法律匡助的用户，平台还会提供法律延续渠谈，流转给法律延续中心的业本分。

弗成被理掉的东西

新规里有条表述，在公司里面征求意见时简直炸了锅。

"波及全球利益的议题，应秉承合理的社会监督，尊重他东谈主的合理抒发。"

飞书文档右侧的挑剔栏里，这条的磋议论远其他条件。有东谈主牵挂会被损失，有东谈主合计措辞还需料想，以至于次里面评审没能形成论断。

这背后是网暴理中个容易被暴戾的维度：平台在击网暴的同期，若何保护方正的全球抒发？尤其是言辞热烈的月旦。在其后的外部评议中，位法律学者的不雅点让郝哲印象刻："震怒是种很难得的品性，尤其在聚积上——震怒背后是网民的正义感。"

终，这条王法看成新规里的个理原则，被保留了下来。

王法定好了，但具体到起热门事件中时，依旧会进修平台对介入时机和力度的精致把控。教养是，事件发展的不同阶段，需要匹配不同的策略。先，论什么时候，王人弗成出现侮辱、吊问。

"先把东谈主身过错、牵累东谈主、‘开盒’东谈主肉等向上底线的实质处理掉，再关注组织化的网暴——有东谈主在挑动，有东谈主在搬运扩散，过错实质度同质化。但论若何处置，原则是不干扰事件本人的走向。"包包团队长资格过两到三次回转的事件，谁对谁错直在变，但团队处理原则永恒如：计帐，预伤害，保留磋商。

到了事件后期，淌若伤害一经变成，要点就从实质处置转向对受害者的经久保护和建树。

除了抒发权，用户对我方要不要被保护，也有选拔权。

平台疏导运营刘丹（假名）提到，有效户被识别为风险后，外呼曩昔，对凯旋说"没事，黑红亦然红"——他（她）合计这波流量，哪怕是负面的，亦然需要的。这个问题曾在研讨会上与反复掰扯，终的论断莫得太多争议：成年东谈主不错对我方负责，平台弗成越俎代庖。

郝哲把这件事说得直白："网暴保护器用会及时送给用户，可开关唯一用户我方能动。"不是作念不到，而是不应该作念。

新规制定经由中还有个让郝哲印象刻的转机。初的草稿里，团队按照作事列了长串需要特地保护的东谈主群——法官、遨游员、铁驾驶员 …… 名单箝制推广，每加多个王人能找到情理。直到外部学者到场，有东谈主提了个很朴素的问题："除了未成年东谈主享有法律章程的先保护权，其他东谈主不应该是公正的吗？"

会议室里酣畅了几秒。终，那张长长的名单被翻，新规只保留了未成年东谈主、劣势东谈主士、老年东谈主三类特地保护群体。这个减法作念起来比加法烦恼多——因为它要求制定者放下"多保护些总没错"的直观，回到个基础的原则上去。

个只靠平台处分不了的问题

225 年下半年，郝哲去参加了次网暴议题的跨行业论坛。

去之前，他满脑子念念的王人是技艺难题——若何从几亿东谈主里找到网暴者，若何在新时势的过错下进步识别精度。到了现场他才发现，参会者的组成远他的念念象：律所合鼓动谈主、青少年情态学者、体育产业延续员、学校种植责任者、下层社区干部 …… 每个东谈主温文的面向王人不同。

"我下子合计，这不是某个平台的事，这是全社会共同濒临的问题。"他说。

他其后在里面复盘时用了个譬如：网暴是社会问题在平台上的投影。投影仪不错调焦，不错加滤镜，但画面的起源不在幕布上。

聚积是社会问题在平台上的投影

新章程稿前那半年多里，这种"投影"和"起源"的张力，简直延续了每场磋商。书面邮件评审发给了 15 位来自不同学科配景的学者，有些东谈主的意见相互矛盾。研讨会上，个措辞就不错反复掰扯——"危害"的表述，初写的是"情态压力"，学者说压力可能来自个东谈主秉承的宽泛社会评价，改成"情态伤害"，范围明确了些。后升为"身心健康"，涵盖精神层面，也包括实验危害。

"咱们背后有张密密匝匝的表。"郝哲说，"每句话对应着不同学者的不开心见。有些意见咱们接纳了，有些经过磋商莫得接纳，王人记取。"

为了让理尺度能随时跟上外部变化，抖音网暴理团队里面会组织"看片会"，挑选复杂、有争议点的真实案例进行跨团队的磋商复盘。里面的"看片会"每周次，至少二十多东谈主。王法制定者、算法研发、舆情、法务、全球策略代表、线研判同学、居品司理，在同张桌子上拍桌子。郝哲合计这恰正是应该的——"配景不样，意见不致，智力把问题掰开了看。"

聚积不是某个平台的事，这是全社会共同濒临的问题 /《坏心》剧照

刘丹地点的疏导团队，则多站在"出口"那端。团队作念过反网暴倡议，作念过短剧尝试，以受害者视角激发共情，也作念过邀请法律和媒体教养"开盒"链路的访谈节目，还有面向公众的理公告。

庸碌，这些步履很难在短期内现果，但她防备到些细微的东西在松动。

"你去看当今些网暴事件的挑剔区，"她说，"会有东谈主说‘让枪弹再飞会’，以前大老是拥而上，当今有东谈主会说，等等，先望望。"

她说理念念中终的情景是"天下暴"，然后她我方笑了下，"应该不太实验。"

未必是不太实验。但淌若再打开当今那些也曾剑拔弩张的挑剔区，偶尔能看到有东谈主写下"善语结善缘"五个字，安酣畅静地搁在那里。

可能莫得太多东谈主点赞，但也莫得东谈主去反驳。它就待在那。

- End -

本文仅代表作家不雅点，不代表平台态度

作家 |  木   风

1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定哈密不锈钢保温工程，并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方，并积极配合修改。
3.凡用户访问本网页，均表示默认详情页的描述，不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》，以此来变相勒索商家索要赔偿的违法恶意行为。