这几天，“算法”一词备受关注。
11月24日，中央网信办官方网站信息，中央网信办等四部门近日印发通知，部署开展“清朗·网络平台算法典型问题治理”专项行动。
之前，农夫山泉创始人钟睒睒在接受采访的时候说，在今日头条、抖音这两个基于人工智能机器算法的互联网内容平台上，有大量类似将其“贴上小胡子，扮成日本人”的诬蔑性言论、图片与视频。但平台不仅不删除，反而利用算法推荐机制和内容运营的创作机制进一步放大不实信息。这引起对“算法推荐”的讨论。
这并不是“算法问题”第一次进入公众视野。
早在2018年，“快手”“火山小视频”直播短视频平台传播涉未成年人低俗不良信息，被国家网信办依法约谈，并要求其暂停有关算法推荐功能。
但事实证明，一些平台的整治力度仍然不够，一些短视频平台依然在用算法“算计”用户并博取流量。
违规视频难下架，用户浏览后被“算法”大量推荐
11月24日，快手被通报处罚48小时。记者下载快手并注册新账号，通过正常的搜索功能输入相关关键词，轻松找到了涉及擦边、未成年人文身等视频。
在浏览几条此类短视频之后，平台随即推荐了大量类似内容的视频，甚至扩展到记者没有搜索过的领域，如宣传校园霸凌、未成年怀孕等传播不良价值观的视频。在记者随机刷到的20条短视频中，不良视频数量就高达16条。
记者尝试对其中一个不良视频进行举报，仅一分钟就收到了后台反馈，称所举报视频存在违规，已被停止推荐给更多用户。但当记者再次查看该视频时，发现其并未被下架或隐藏处理，依然可以直接搜索到。
对于这类内容明显违规的视频，平台为何不直接删除，还让色情低俗的内容存在于平台中？什么类型的违规视频才会被平台删除？
记者致电快手人工客服，电话并未接通。AI客服答复记者称，针对举报的内容，工作人员会严格按照法律法规和社区管理规定进行核查，若确实违规会依规做出相应处理。但并未详细说明处理方式。
随后，记者下载了快手极速版，还未登录，初始推荐界面便出现了此前在快手搜索过的相关违规内容。开启青少年模式后，推荐内容虽有所改善，但违规问题依然存在。
相似的情况，在其他短视频平台如何？
记者同样体验抖音、腾讯微视、西瓜视频等几个短视频平台，发现只需要点击几条内容不当的视频，接下来就会有源源不断的相似视频被推荐。
“算法”囚笼，背后是默许和纵容的平台
问题看似首先出在算法推荐机制上。
某平台算法组工作人员告诉记者，平台的推荐机制是一套复杂、缜密的数学算法，每个平台的推荐机制也都各有不同。
正常情况下，主要是通过如下几种方式进行推荐：第一种是基于用户行为进行协同过滤。通过采集用户数据、构建用户画像，根据相似用户的观看偏好进行内容推荐。第二种是基于内容的推荐，即根据用户看过的视频推荐相似内容。第三种则是深层兴趣分析，通过挖掘用户潜在兴趣实现更精准的推送。
“这就是为什么用户浏览了一条软色情短视频后，不仅会收到更多类似视频的推荐，还可能被推荐炫富、粗鄙或者暗示性视频的原因。”该算法组工作人员说。
资深人工智能专家、天使投资人郭涛表示，AI和算法推荐通过精准推送提供符合用户兴趣的内容，提高了用户黏度、平台的日活率和广告推送的触达率，提升信息获取效率。但其弊端也同样明显。过度依赖算法不仅限制了用户视野，使用户陷入信息茧房，在大量单一化、同质化的信息海洋中沉沦，产生思维固化，还可能会诱导用户过度消费或沉迷娱乐，对用户的自主意识和多元认知产生消极影响。
但由于算法所形成的种种问题，其错真的只在于算法本身吗？
业内人士告诉记者，算法本身没有道德立场。其本质不过就是程序，出现问题与平台的设计和运营策略密切相关。一些平台为了追求更高的用户活跃度和商业利益，让算法推荐服务于价值增值，追求流量至上而忽略了价值理性的要求，从而忽略了内容的质量和社会责任。
“事实上，平台是完全有能力对违法信息进行监管和审核的。例如，平台可以调整奖励和推流机制，减少低质视频的奖励分成和流量推荐，从创作源头上遏制问题；增加人工审核环节，同时利用技术手段对视频画面、文字以及用户评论反馈进行全面分析，及时封禁问题视频。这对于快手、抖音等大型短视频平台来说并不困难。大量违规短视频被算法推荐，说明平台的价值取向确实存在一些问题。”上述算法组工作人员说。
郭涛认为，平台是算法和AI的使用者和管理者，有义务确保其合理应用。平台应在算法设计、内容审核等环节加强把控，避免算法滥用。
引入多元化推荐机制，让“算法”不再“算计”
业内人士认为，面对质疑声和处罚，一些平台首先要做的就是转变底层逻辑，树立“正能量高于大流量”的价值观导向。只有将这一理念深度嵌入平台的算法设计思路和运营规则中，才能从根源上预防问题发生。
首先要通过强有力的审核机制来保障内容的质量，避免劣质、低俗内容在公众群体中传播。仅靠算法识别显然不足，平台需要建立“算法+人工”的双重审核体系，对敏感或争议性内容进行更精确把控。
平台应引入多元化推荐机制，除了基于用户历史行为的个性化推荐外，还应该加入随机性元素或者推荐不同观点的内容，帮助用户打破信息茧房，促进思想交流和理解。
同时，优化算法设计，减少对低质内容的推荐权重，将优质内容优先展示给用户。
11月24日，中央网络安全和信息化委员会办公室秘书局、工业和信息化部办公厅、公安部办公厅、国家市场监督管理总局办公厅联合发布《关于加强互联网信息服务算法综合治理的指导意见》（以下简称《指导意见》），明确提出要治理网络平台算法典型问题。《指导意见》强调，重点整治同质化推送营造“信息茧房”、算法向上向善服务缺失侵害用户合法权益等问题，敦促企业健全完善正能量优质内容池，优化算法推荐服务机制，积极传播正能量，促进算法应用向上向善；建立健全用于识别违法和不良信息的特征库，积极探索应用于识别违法和不良信息的算法、技术，防范和抵制传播不良信息。不得设置诱导用户沉迷、过度消费等的算法模型。不得利用算法干预信息呈现，实施影响网络舆论或者规避监督管理行为。从顶层设计层面为平台算法治理明确了方向，也为企业提供了清晰的操作规范，敦促其承担更多社会责任。
算法本身并无善恶，问题核心在于如何使用。面对违规短视频在互联网上被算法大量推荐的现状，一些短视频平台需拿出切实有效手段进行调整，给公众健康绿色的互联网环境。
