数字化时代，以大模型为代表的人工智能技术高速发展，在推动经济社会繁荣进步的同时，也带来了新的安全风险和不可预估的严峻挑战。11月23日，由中国通信学会内生安全专委会主办、浙江大学区块链与数据安全全国重点实验室承办、南京信息工程大学协办的第四届网络空间内生安全学术大会分论坛——“人工智能安全论坛”在南京紫金山实验室举行。论坛聚焦人工智能在实际应用中面临的安全隐患及风险挑战等热点议题，汇聚了行业内多位专家学者，共同探讨智能时代网络空间的可持续发展策略，为全球人工智能的治理与应用贡献中国智慧。
本次论坛由浙江大学计算机学院院长、区块链与数据安全全国重点实验室常务副主任任奎主持，香港城市大学教授王聪，南京信息工程大学计算机学院、网络空间安全学院院长、“数字取证”教育部工程研究中心主任付章杰，信息工程大学副教授、河南省成像与智能处理重点实验室副总工程师王林元，南方电网科学研究院一级领军专家蒋屹新，香港城市大学助理教授赵晴川以及中国电子技术标准化研究院网络安全研究中心工程师张骁出席活动并发表主题演讲，围绕数据安全、深度神经网络动态集成、电力系统安全应用、汽车领域标准化等重要话题，由浅入深，由表及里地展现多元视角下人工智能在发展与安全“双轮驱动”下的成功探索和强大潜力。
正式议程开始前，中国工程院院士邬江兴发言。他指出，人工智能安全已成为国际社会的关注焦点，尽管人工智能大模型及神经网络在理论上进展有限，但应用前景广阔，其可信问题是发展的关键所在，需采用内生安全技术向可信AI应用系统发起挑战。
香港城市大学教授王聪以“加密数据搜索技术的前沿与展望”为主题，聚焦数据要素保护的重要环节之一——加密数据库的相关技术作精彩报告。人工智能时代，数据要素的价值越来越高，将数据密态存储以达到数据要素流通过程中的密态保护成为业界学界的重点需求。王聪教授生动描绘了searchforinformation的整个发展历程，深入浅出地讲解了在加密数据交互中如何保护数据隐私免受恶意窃取或泄漏的关键技术，为探索智能系统安全韧性防护提供了新思路。
南京信息工程大学计算机学院、网络空间安全学院院长、“数字取证”教育部工程研究中心主任付章杰聚焦数据要素安全的另一角度，以“数据要素流通中的数据权属保护技术”为主题，深入探讨了加密数据交互过程中的数据隐私保护技术，包括加密数据库技术的重要性、数据泄露的风险、加密搜索面临的挑战与解决方案以及数字水印与数字取证在数据要素流通权属保护中的应用，再一次论证了数据要素成为高价值资产这一社会共识。
信息工程大学副教授、河南省成像与智能处理重点实验室副总工程师王林元发表了题为“深度神经网络动态集成防御技术研究”的重要报告，将人工智能的安全问题划分为网络环境的共性问题和自身内生安全的个性问题，主要介绍了深度神经网络在动态集成防御方面的研究进展，包括背景、研究方法、现状成果等方面内容，并根据内生安全理论大框架对下一步的研究方向与研究内容做出了严谨的审视与深刻的思考。
南方电网科学研究院一级领军专家蒋屹新深耕人工智能安全垂直领域，以“电力系统人工智能安全挑战与防护体系”为核心内容作精彩发言。分别从电力系统人工智能的国内外发展态势、面临的安全挑战以及安全防护体系的构建三个方面，展现宏观视角下电力行业领域在人工智能应用层面的挑战与措施。同时，对人工智能安全防护体系能够更有效地支撑“双碳”战略转型，进一步拓展其应用范围和深化其应用程度的美好前景，表达了深切的期待与展望。
香港城市大学助理教授赵晴川以“UncoveringVulnerabilitiesinComputerVision—basedAuthenticationSystems”为题，基于计算机视觉的身份认证工作中的安全问题提出原创性的思考。将自身的经历作为研究素材融入报告，通过对无线充电领域的电磁啸叫案例及DeepFake攻击与防御案例的具体剖析，深入探讨了AI技术在攻击与防御中的应用以及DeepFake防御技术的安全性和可靠性问题，为相关领域的研究提供了有益的参考。
聚焦“AI时代下的汽车数据安全标准化研究”，中国电子技术标准化研究院网络安全研究中心工程师张骁从人工智能技术爆发式增长带来人工智能安全问题的高度重视这一相关背景入手，从治理原则、安全风险分类、技术应对措施、综合治理措施以及应用指引几个角度为与会观众系统性地梳理了人工智能安全治理框架，并重点介绍了汽车行业人工智能应用的标准化进展与突破。
随后召开中国通信学会内生安全专委会2024年度工作总结会议。内生安全专委会秘书长张芳汇报了邬江兴院士团队“网络空间内生安全理论和标准体系”入选中国通信学会“2023年度信息通信领域十大科技进展”，变结构拟态计算技术、可信内生安全技术、多模态智能网络技术、软件定义晶上系统等四大原创技术入选新一代信息工程科技新质生产力备选清单等情况，并介绍专委会参与制订的六项团体标准、两份内生安全委员会蓝皮书、两份科技专报，以及三个学术会议评级、优秀论文推荐、科普培训等内生安全委员会年度工作内容。张芳教授欢迎参会嘉宾广泛参与到内生安全委员会的未来工作中，为下一阶段的内生安全工作贡献不竭的智慧力量，携手书写网络韧性新时代的崭新篇章。
与会嘉宾们纷纷表示，“展望未来，我们将继续秉持开放合作、互利共赢的理念，共同应对人工智能安全领域的挑战与机遇。”本次论坛的成功举办，不仅为行业内专家学者提供了一个深入探讨与思维碰撞的交流平台，也为推动人工智能技术的安全、可持续发展注入了新的活力和动力。
