2月21日，中央网信办发布2025年“清朗”系列专项行动整治重点，AI技术滥用乱象成为今年的重点整治对象之一。中央网信办具体要求，要突出AI技术管理和信息内容管理，强化生成合成内容标识，打击借AI技术生成发布虚假信息、实施网络水军行为等问题，规范AI类应用网络生态。
南都大数据研究院持续关注AI治理，近期推出“AI新治向”专题报道。其中，通过数据分析，解读2024年全球AI风险事件，关注AI幻觉、深度合成技术滥用等AI应用安全风险（点击查看：DeepSeek式幻觉怎么破？全球AI风险事件拆解）。
此外，还梳理2024年国内AI风险主要舆情案例，聚焦AI造谣这一AI技术滥用乱象，探讨治理路径。报道发现，当前利用AI技术造谣日趋频繁。据南都大数据研究院不完全统计，2024年搜索热度较高的50个国内AI风险相关舆情案例中，超1/5与AI造谣有关。AI工具普及的同时，也带来造谣成本大幅降低的问题，且增加了谣言的真实感。仅需输入简单的关键词，有AI软件便可通过网络抓取相关素材，自动生成包含时间、地点、人物和事件等要素的文本或视频，呈现出看似真实的“新闻”内容。AI大模型的接入，也可能出现更难识别以社交机器人为代表的新型网络水军的情况。用AI“批量化”生产谣言，甚至已成为一种牟利手段，警方曾通报某MCN机构，组织团队利用AI工具批量生成虚假消息，单日产量高达4000至7000篇，日均收入超过1万元。
专家则提到，在通过技术和法律手段治理AI造谣乱象的同时，公众从源头参与AI治理是长期解决方案（点击查看：一键生成谣言！50个国内AI舆情风险案例，AI造谣占两成）。
近年来，中央网信办持续部署开展“清朗”系列专项行动，集中时间、集中力量打击网上各类乱象问题，从严处置违规平台和账号，取得积极成效，形成有力震慑。2025年，“清朗”系列专项行动将进一步巩固提升治理成效，聚焦人民群众反映强烈的突出问题，在破解难点瓶颈方面下功夫，强化源头管理和基础管理；在治理创新方面下功夫，针对性细化每个专项打法举措；在维护网民权益方面下功夫，严厉打击各类侵权违法行为，营造更加清朗有序的网络环境。
除去整治AI技术滥用乱象外，今年的重点整治任务还包括：
整治春节网络环境，集中打击挑起极端对立、炮制不实信息、宣扬低俗恶俗、鼓吹不良文化、违法活动引流等问题。
整治“自媒体”发布不实信息，包括发布干扰舆论、误导公众内容，不做信息标注、内容以假乱真问题，缺失资质、提供伪专业信息等问题，规范重点领域信息内容传播。
整治短视频领域恶意营销，打击虚假摆拍、虚假人设、虚假营销、炒作争议性话题等问题，强化信息来源标注、虚构和演绎标签标注。
整治涉企网络“黑嘴”，处置集纳负面信息，造谣抹黑企业和企业家，从事虚假不实测评，诋毁产品服务质量等问题，进一步优化营商网络环境。
整治暑期未成年人网络环境，强化涉未成年人不良内容治理，净化儿童智能设备、未成年人模式、未成年人专区等重点环节信息内容，防范线上线下交织风险。
整治网络直播打赏乱象，打击利用高额返现吸引打赏、情感伪装诱导打赏、低俗内容刺激打赏、未成年人打赏等突出问题，加强直播打赏功能管理。
整治恶意挑动负面情绪，包括借热点事件等挑起群体极端对立情绪，通过夸大炒作不实信息和负面话题，宣扬恐慌焦虑情绪，借血腥暴力画面挑起网络戾气等问题，严肃查处违规营销号、网络水军和MCN机构。
中央网信办相关部门负责人表示，将有序推进“清朗”系列专项行动各项任务，同时，也会根据实际情况需要增加重点整治内容。将进一步压实各方主体责任，持续净化信息内容、规范功能服务，确保整治工作取得实效，推动网络生态持续向好。
出品：南都大数据研究院
采写：陈袁
