出品｜达摩财经

高深莫测的人工智能算法并不是科技巨头口中美好的“乌托邦”。为了流量和商业利润而不顾后果，制造信息茧房、鼓励谣言和仇恨，最终可能指引人类走向错误的道路，带来未曾预见的灾难，历史学家、哲学家尤瓦尔·赫拉利（Yuval Harari）在新书《智人之上》中发出了上述警告。他最终指出：如果没有缺乏强有力的修正机制，无意识又极为强大的人工智能算法将带来前所未有的恶果。

无论我们是否同意赫拉利的悲观预测，智能算法对现实世界的影响越来越大都是不争的事实。农夫山泉创始人钟睒睒今年遭遇的网暴就非常直观，最近这位中国首富终于忍无可忍，公开向算法的违规问题“开炮”，要求制造恶意谣言的网络平台向自己道歉。

11月24日，“网信中国”正式发布：中央网信办、工信部、公安部以及国家市场监督管理总局等四部门，于11月12日联合发文，决定开展“清朗·网络平台算法典型问题治理”专项行动。

具体来看，在专项行动的工作方案中，将深入整治“信息茧房”、诱导沉迷问题列为首要任务。要求严禁推送高度同质化内容诱导用户沉迷。不得强制要求用户选择兴趣标签，不得将违法和不良信息记入用户标签并据以推送信息，不得超范围收集用户个人信息用于内容推送。

同时，要提升榜单透明度并打击操纵榜单行为。要求全面公示热搜榜单算法原理，提升榜单透明度和可解释性。完善榜单日志留存，提高榜单算法原理可验证性。

此外，防范盲目追求利益侵害新就业形态劳动者权益；严禁利用算法实施大数据“杀熟”；增强算法向上向善服务保护网民合法权益，落实算法安全主体责任等任务也列为本次专项行动重点任务。

本次专项行动持续时间近三个月，至2025年2月14日，将按照组织企业自查自纠、核验企业自查情况、深入评估治理成效、开设举报受理渠道几项工作分步开展。

在方案中，监管部门还明确了本次专项行动的目标。最终将实现网站平台算法导向正确、算法公平公正、算法公开透明、算法自主可控以及算法责任落实。

总体来看，本次监管部门对互联网算法综合治理发出了掷地有声的声音。本次专项行动将重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”、算法向上向善服务缺失侵害用户合法权益等重点问题，督促企业深入对照自查整改，进一步提升算法安全能力。

知名企业家竟成网暴受害者

钟睒睒这次亮相的地点是在江西赣州信丰，这是赣南脐橙的核心产区，也是著名的“老苏区”。早在20年前，钟睒睒就带领农夫山泉进入当地种脐橙、设工厂，中间走过弯路但始终没有放弃，不考虑成本的投入对帮助当地农民共同富裕起到了重要作用。

截至2023年末，农夫山泉已经与信丰当地合作果园超20万亩，与约4000个果园建立了合作，改善约4万名农民家庭的收入，上下游惠及约10万人口。钟睒睒表示：“农夫山泉不是一家卖水的企业，而是一家农业企业”、“我这样的企业家就应该解决产业问题”。扶持产业，与农民同频共振，同时帮助提升国家的竞争力，这是农夫山泉对“共同富裕”的理解和实践。

但就是这位充满社会责任感的知名企业家，今年初意外遭受了一场铺天盖地的网暴。

在被传播了无数遍的图文信息和短视频里，有人说农夫山泉产品包装上的山麓图片是富士山，有人说它红色的瓶盖是日本国旗，甚至有人把钟睒睒的照片PS上小胡子说是日本人。尽管这些网络言论一眼看上去就立不住脚，但丝毫没有阻碍它们在虚拟空间汇聚成汹涌恶意，吞噬掉了所有理性和真相。

一轮又一轮的口诛笔伐里，农夫山泉的包装饮用水在半年内营收大挫18%，公司市值在持续被网暴近半年后蒸发了2100亿港元，钟睒睒95岁的母亲在网络恶意最浓的时候愤懑离世，直到现在，在网络平台上搜索“钟睒睒+日本”，排名靠前的搜索结果里依然有“钟睒睒不像中国人”、“钟睒睒日本人还是中国人”这样的信息。

11月20日，钟睒睒在赣州信丰农夫山泉脐橙工厂发表演讲，被问到离世的母亲时潸然泪下。他对网络谣言和网暴进行了深度思考后得出结论，那些“有组织地引流、限流，没有原则、随心所欲地删稿，对流量及其谣言以金钱奖励与激励，把网络变成技术、算法，变成了玩弄民众智商的游戏”的网络平台， 才是最大的责任者。

“天天骂我的普通人也是受害者，真正制造恶意的是那些掌握技术和资源的人。”钟睒睒将矛头直指平台，正是网络平台的算法在鼓励情绪对立，从中源源不断获得流量和商业利益。

算法成了网络喷子的制造者

网络平台究竟应不应该对网络暴力承担责任？过去，科技巨头往往用“避风港原则”来规避自己的责任，将责任推脱给具体的“博主”、“主播”、“自媒体”，认为他们是各个平台上一切仇恨与谎言的源头。

但赫拉利恰恰对此做了深度研究，认为这都是科技巨头的谎言。他在新书里指出，科技巨头的算法发现，只要激起人们的怒火就能提升参与度。通过推荐惊骇的阴谋论，同时无视理性的内容，美国的“脸书”、“油管”等网络平台吸引了越来越多的流量。那些想博人眼球的主播发现，发布满是谎言、让人愤慨的视频就会受到算法青睐，视频就会被推荐给观众、自己就会人气飙升获得收益，网络喷子就这样被算法“训练”出来。

值得注意的是，传统的信息传播渠道中，还会有专门的工种去验证、审核信息的真实程度，以及价值导向是否正确，但当算法成了信息的最终把关人和分发者后，真实、导向和责任感似乎成了最不重要的衡量指标。“社交媒体算法只把人看成矿井，想要开采更多的注意力。人类有丰富的情感，如爱、恨、愤慨、喜悦、困惑，但算法把一切简化成一件事——参与度。”赫拉利发现。

这一切都是为了商业利益。“脸书”在2019年的内部文件中就承认“仇恨言论以及分裂性言论与错误信息，正在影响世界各地的社会……我们的核心产品机制，如病毒式传播、推荐与提升用户黏性，正是此类言论在脸书平台盛行的重要原因。”、“这种事之所以发生，是因为我们出于商业目的而刻意推动的。”、“以参与度为标准对有较高风险的话题进行排序，会导致不正当激励与诚信问题。”

现实世界中，算法制造出来的“恶意”频结“恶果”。2023年5月，武汉一名小学生在被老师的车撞伤后不幸离世，他的母亲赶到学校，仅仅是因为化了淡妆，没有大哭大闹，就被人网暴成“过于淡定”“想当网红”。最终这位本就经历了丧子之痛的年轻母亲，在被算法“推荐”出来的巨大恶意里，选择了在儿子离世的10天后从24层高的地方坠楼身亡。

科技巨头曾经承诺技术提供提高生产力、给人类社会带来美好的未来，但显然，如果人工智能驱动的算法强大而不受控制，技术的钟摆被狠狠甩了出去后，当钟摆再度弹回来时，总会有什么东西被砸得稀碎。

“算法猛兽”要有监管约束

尽管科技巨头总是强调算法没有价值观，但当网络平台以经济利益至上、经济利益又是从流量中来，算法显然不能没有价值观。科技巨头必须投资推动鼓励说真话的“善意”机制。

在钟睒睒的逻辑里，谣言的传播者和制造者是同罪的。他认为农夫山泉这样制造型企业，如果生产了不合格产品，就需要承担法律责任，互联网企业如果为了博取流量而放纵虚假信息传播，从而从中盈利，那它也是在放纵不合格产品的流通，需要承担法律的责任和人类文明的责任。

这也成了钟睒睒呼吁约束平台的原因。他说：“任何文明都是有度的，当某一种文明的力量过度的时候，那一定是对其他弱势群体的伤害。但强者和弱者永远是存在的，互联网的强者在约束他人的过程当中，也同时必须约束自己。”

科技巨头的算法权力越来越大。算法究竟是根据什么原则来屏蔽哪些声音、放大哪些声音，不能是一个黑箱，需要公开透明，这越来越成为社会的共识。赫拉利也指出：“要是企业用愤怒来吸引我们的注意力，就得清楚坦陈自己的商业模式。如果算法会系统性地屏蔽与该企业立场不同的视频，用户也该有权得知。”

11月24日，中央网信办等四部门联合发文开展“清朗·网络平台算法典型问题治理”专项行动，对一些需要持续加强治理的算法平台典型问题重拳出击，其中也点出了算法要公开透明。“优化检索、排序、推送等规则的透明度和可解释性，预防和减少争议纠纷。以适当方式公示算法推荐服务的基本原理、目的意图、主要运行机制等，确保简单、清晰、可理解。”

监管部门对算法加强持续治理，这是一场“及时雨”。