11月24日,中央多个部门联合发布《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》,决定自即日起至2025年2月14日开展“清朗·网络平台算法典型问题治理”专项行动,督促企业深入对照自查整改,进一步提升算法安全能力。
“算法”一直是一柄双刃剑,它伴随移动互联网而生。应用在内容推送上,就是信息的“千人千面”;应用在商品推送上,就是购物的“兴趣电商”。这无疑为人们节省了时间,提升了效率,让平台赚得盆满钵满;但从另一个角度来讲,也把用户禁锢在狭小的信息空间里,失去感知外部世界的动力。甚至成为资本砧板上的肉,人家想怎么切割就怎么切割。
这次清朗行动,出重拳,下猛药,从“信息茧房”、干预榜单、侵害新就业形态劳动者权益、大数据“杀熟”、侵害用户合法权益等五个方面着力规范平台企业的算法行为。
01
深入整治“信息茧房”
2023年,中国青年报社社会调查中心联合问卷网,曾对1501名受访者进行了一项调查。62.2%的受访者感觉到“大数据+算法”的精准推送方式,使信息渠道越来越窄、信息越来越同质化,让自己陷入了“信息茧房”,24.3%的受访者没感觉,13.5%的受访者表示不好说。
有年轻妈妈表示,算法推荐的背景下,接收到的信息是不全面的。比如有段时间她经常看到儿童医院爆满的短视频,好像周围又有什么流行毒株了,导致她为此很焦虑,不敢带孩子出门。而事实上,远没有那么夸张,小朋友在外面玩没问题,做好基本的卫生就好了。
化解手段:一方面要求平台方严禁推送高度同质化内容诱导用户沉迷,不得强制要求用户选择兴趣标签,不得将违法和不良信息记入用户标签并据以推送信息,不得超范围收集用户个人信息用于内容推送。规范设置“不感兴趣”等负反馈功能;另一方面,用户则要掌握获取信息的主动权,主动去搜一下别的感兴趣的内容。
02
打击操纵榜单行为
一些平台的热搜榜往往成为社会事件热度的标准之一,人们谈“热搜”而色变。那么,热搜榜真的那么客观公正,能代表群众关切吗?其背后有没有无形的手在操控呢?
近日,河南省新乡市公安局成功端掉了一个拥有大量“网红”“大V”账号的特大“网络水军”犯罪团伙,抓获犯罪嫌疑人276人,涉案金额达5000万元。该团伙对外宣称,花5万元“宣传费”就能登上热搜榜。经查,该“网络水军”犯罪团伙利用群控软件,仅用时4个月,就批量制造虚假的“转赞评”操作达8亿次,内容涵盖社会舆论、热点事件、广告推广及账号运营等多个领域。
化解手段:要求平台方全面公示热搜榜单算法原理,提升榜单透明度和可解释性。完善榜单日志留存,提高榜单算法原理可验证性。健全水军刷榜、水军账号等违规行为、账号检测识别技术手段,严管不法分子恶意利用榜单排序规则操纵榜单、炒作热点行为。
03
防范侵害新就业形态劳动者权益
这里所说的新就业形态劳动者,包括但不限于网约配送员、网约车驾驶员、网约货车司机等新兴职业。这些职业与移动互联网相伴相生,其任务分发、业务成交、事后评价等无不与移动互联网息息相关。
早在2021年,国家高层会议即审议通过了《关于维护新就业形态劳动者劳动保障权益的指导意见》,要求平台方“合理设定对外卖送餐员的绩效考核制度,合理确定订单数量、在线率等考核要素,适当放宽配送时限,不得通过算法等手段侵害劳动者的正当权益。
但在实际生活当中,送外卖就是与死神赛跑,和红灯较劲,和交警捉迷藏。由于规定的配送时间越来越短,外卖骑手越来越难干,不得不超速、闯红灯、逆行,遭遇交通事故的数量急剧上升。
化解手段:严防一味压缩配送时间导致配送超时率、交通违章率、事故发生率上升等问题。详细公示时间预估、费用计算、路线规划等算法规则。搭建畅通的申诉渠道,及时受理劳动者因交通管制、交通事故、恶劣天气等不可控因素导致的配送超时等申诉。
04
严禁利用算法实施大数据“杀熟”
大数据杀熟是指企业利用大数据技术,根据用户的经济状况、消费行为、浏览记录等数据,在同一时间提供商品、服务时,针对不同用户制定不同的定价策略,特别是利用老客户不愿轻易更换平台,对其收取更高费用,从而获取更高利润。 大数据杀熟本质上是算法的滥用,商家利用消费者的信任以及信息不对称获取超额利益,侵害消费者权益。
相同旅游平台、同一时间,使用不同账号预定同一张机票,价格却相差900多元;使用打车软件,老会员比新会员花费更多,而且还难叫到车;在网上购买同一商品或服务时,老顾客竟要比新顾客多付钱……多花“冤枉钱”,令被大数据杀熟“算计”的消费者叫苦不迭。
化解手段:严禁利用用户年龄、职业、消费水平等特征,对相同商品实施差异化定价行为。提升优惠促销透明度,清晰说明优惠券的领取条件、发放数量和使用规则等内容。客观如实说明优惠券领取失败原因,严禁以“来晚了”“擦肩而过”等提示词掩盖真实原因。
05
保护网民合法权益
未成年人和老年人是算法推荐下的重要受害对象。这两个群体鉴别力差,偏听偏信,很容易落入阴谋者的营销陷阱。
每周我去父母家,第一件事情就是拿过他们的手机检查,删除误装的APP和不知情的情况下加入的健康群及企业营销号。有些微信小程序是利用标签算法推荐到他们的手机上,可能随手一点就完成了隐蔽安装,退也退不出来,删也删不掉,像牛皮癣一样挥之不去。
化解手段:持续优化完善面向未成年人、老年人的算法推荐服务,便利未成年人、老年人获取有益身心健康的信息。建立健全算法在赋能优质内容传播、违法行为识别发现等方面的社会治理应用。持续提升生成合成信息检测识别能力,及时发现处理违法违规生成合成信息。
算法本是工具,无所谓对错,但用在不同人手中便成了“操控武器”和“谋利工具”。希望企业平台严格按中央要求,落实算法安全主体责任,健全算法机制机理审核、数据安全的管理制度和技术措施,真正给用户一个清朗的网络空间。
部分图文来自:法治网