12月5日，在上海市委网信办指导下，2024第三届北外滩网络安全论坛在上海世界会客厅隆重举办。论坛聚焦新一代人工智能技术的迅猛发展为网络安全、数据安全领域带来的重大机遇和全新挑战，以更广阔的技术视野、更长远的战略眼光，为网络安全、数据安全领域谋划新思路、新举措。

网络安全是数字化时代的共同议题，也是高质量发展的重要保障。自2022年起，北外滩网络安全论坛应时而生，主动肩负起推动网络安全交流合作、探索技术前沿的使命，两届论坛的成功举办，取得了热烈反响。今年，论坛以“新机遇新挑战新使命，高维推动网数安全、人工智能双向融合赋能”为主题，邀请近300名网络安全、数据安全及人工智能领域顶尖专家学者、行业领袖，共同探索多层次、多维度合作机制，推动构建更加安全、可靠的网络空间。

论坛设置了院士专场、专家演讲、圆桌论坛等多个专题环节，涵盖网络安全技术的最新进展、人工智能在网络安全中的应用、网络安全政策与法规、网络安全与人工智能全球治理等多个议题领域开展深入研讨。

中国工程院院士黄殿中在主旨演讲中提到，人工智能实施深度伪造正在变得更加便利。今年，某地警方曾披露一起AI造谣案件，涉案公司利用AI生产造谣文章，日产最高可达7000篇，这体现了人工智能强大的信息传播力。随着人工智能逐渐成为认知工具中的重要渠道，全球权力结构和国际关系也将迎来深刻变革。“需要关注AI对人类认知模式和决策能力的潜在影响，确保人类在与AI交互过程中的独立思考能力。”

吴世忠院士同样认为，AI时代，有图未必有真相，深度伪造已然渗透到了社会生活的方方面面。他指出，人工智能的两用性、进化速度、泛在通用性和自主性是网络安全行业需关注的重点，安全行业必须与时俱进，加强安全研究，转型升级网络安全保障体系，实现更智能的安全和更安全的智能。

邬江兴院士则从现代计算机体系结构中存在的内生安全缺陷角度，提出在“有毒带菌”网络空间内构建安全质量可承诺的信息物理系统设计理论与方法，呼吁智能时代亟须正确的理论方向、亟待发展安全可信AI应用系统。