四部门治理算法市场沉疴:诱导沉迷、大数据“杀熟”、炒作买榜

企业观察报 2024-12-11 09:57:21

11月24日,中央网络安全和信息化委员会办公室秘书局、工业和信息化部办公厅、公安部办公厅、国家市场监督管理总局办公厅四部门联合开展“清朗·网络平台算法典型问题治理”专项行动。

此次专项行动的要求非常细化,提出重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”、算法向上向善服务缺失侵害用户合法权益等重点问题。

此次行动的目标是净化网络环境,保护用户权益,促进算法技术的健康发展。

01

算法治理常态化

自2021年起,算法治理已被正式纳入监管视野。其治理范围广泛,从打击“推送不良广告行为”到整治“违法活动引流、宣介违法违规商品、搜索结果推送低俗负面联想词”,再到打破“算法歧视”和“大数据杀熟”等不公现象。

2021年2月,中央网信办发起了“清朗·春节网络环境”专项行动,重点整治生活服务类平台推送不良广告的行为,尤其是为低俗网文引流的问题。

2022年4月,中央网信办实施了“清朗·2022年算法综合治理”专项行动,聚焦解决网民关心的算法问题,维护网民合法权益。该行动包括落实《管理规定》,深入排查整改互联网企业平台的算法安全问题,评估算法安全能力。特别关注具有较强舆论属性或社会动员能力的大型网站、平台及产品,督促企业利用算法传播正能量,处置违法和不良信息,整治算法滥用乱象,并积极开展算法备案,推动算法综合治理工作的常态化和规范化,以营造一个风清气正的网络空间。

2023年9月,中央网信办开展了“清朗·生活服务类平台信息内容整治”专项行动,重点解决七个突出问题:为线下违法活动引流、搜索环节呈现违法信息、发布违规营销信息、组织操纵刷分控评、推荐低俗不良信息、传播网络迷信信息以及散布炫富拜金、暴饮暴食信息等。行动要求集中排查整治,以符合网络生态治理的各项规定。

2023年12月,中央网信办进行了“清朗·整治短视频信息内容导向不良问题”专项行动,目的是优化推荐机制,解决短视频平台算法价值导向的偏差和优质短视频内容呈现不足的问题。行动还旨在优化流量分配机制,防止“重指标轻质量”的现象,避免片面以点赞率、转发率等量化指标作为流量分配的唯一依据。

此次,四部门联合开展的“清朗·网络平台算法典型问题治理”专项行动,与此前的专项行动相比,治理内容要求更加细化。除了专项行动的要求外,《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》中还附有《算法专项治理清单指引》,列明了核验项目、核验要点、核验内容。往年中央网信办也会到企业进行算法检查,此次算法治理专项行动或意味着算法治理的常态化。

02

具体行动

专项行动有几项重点:一是深入整治“信息茧房”、诱导沉迷问题;二是提升榜单透明度,打击操纵榜单行为;三是防范盲目追求利益,侵害新就业形态劳动者权益;四是严禁利用算法实施大数据“杀熟”;五是增强算法向上向善服务能力,保护网民合法权益;六是落实算法安全主体责任。

具体怎么治理乱象,“算法专项治理清单指引”提出了明确的核验要求。

比如,在“信息茧房”的问题上,专项行动要求:严禁推送高度同质化内容诱导用户沉迷;不得强制要求用户选择兴趣标签,不得将违法和不良信息记入用户标签并据以推送信息,不得超范围收集用户个人信息用于内容推送。规范设置“不感兴趣”等负反馈功能。

在“操纵榜单”的问题上,专项行动要求:全面公示热搜榜单算法原理,健全水军刷榜、水军账号等违规行为、账号检测识别技术手段,严管不法分子恶意利用榜单排序规则操纵榜单、炒作热点行为。

在“外卖配送”的问题上,专项行动要求:严防一味压缩配送时间导致配送超时率、交通违章率、事故发生率上升等问题。

在大数据“杀熟”的问题上,专项行动要求:严禁利用用户年龄、职业、消费水平等特征,对相同商品实施差异化定价行为。提升优惠促销透明度,清晰说明优惠券的领取条件、发放数量和使用规则等内容。客观如实说明优惠券领取失败原因,严禁以“来晚了”“擦肩而过”等提示词掩盖真实原因。

在算法的问题上,专项行动要求:持续优化完善面向未成年人、老年人的算法推荐服务,便利未成年人、老年人获取有益身心健康的信息。

在落实算法安全主体责任的问题上,专项行动要求:及时检测修复代码安全漏洞和算法逻辑缺陷,定期对算法模型的可用性、可控性、可解释性以及数据处理、模型训练、部署运行等环节开展安全评估。

03

建立长效机制

根据《通知》,此次专项行动分为三个阶段:

企业自查自纠阶段:企业需在2024年12月31日前完成自查自纠,这是专项行动的首要步骤。

属地核验阶段:从2025年1月1日至2025年1月31日,属地相关部门将对企业的自查情况进行核验。

治理成效评估总结阶段:专项行动要求在2025年2月14日前对治理成效进行深入评估和总结。

本次“清朗行动”特别强调了“建立长效机制”的重要性,要求常态化开展算法服务安全风险监测与防范工作,及时发现并处理网站平台的违规问题线索。通过综合运用督促整改、现场检查、处置处罚等措施,不断提升算法常态化治理的水平。

算法治理是一个循序渐进的过程,需要逐步加以完善。虽然对算法进行监管会给平台带来一定的成本,如技术升级和合规成本等,但从长远来看,这有利于营造一个健康的网络环境,促进平台的可持续发展。

企观国资是企业观察报社官方微信公众号。《企业观察报》是由国务院国资委指导、中国企业改革与发展研究会主管主办的全媒体平台,被国务院国资委认定为“国资国企自有舆论平台”,致力于以专业化、市场化、国际化视角关注报道中国企业改革发展。

互联网新闻信息服务许可证号:10120240005

微信公众号:cneoguo(企观国资)

地址:北京市海淀区紫竹院南路2号

电话:010-68719177   13911965371

官网:cneo.com.cn

0 阅读:1

企业观察报

简介:企业家的即时工具书。