3月4日下午，全国政协十四届二次会议在京开幕。全国政协委员、全国工商联副主席、奇安信集团董事长齐向东围绕人工智能（AI）安全风险问题建言献策。
他表示，人工智能（AI）是新一轮科技革命和产业变革的核心技术，将为推进中国式现代化注入强大动力。但随着AI技术不断发展，数据泄露、“深伪”诈骗等安全威胁加剧，针对和利用AI的网络攻击等安全问题日益凸显，安全防护难度增大。
但AI同时赋能网络安全行业，在促进攻防技术升级上有大作用，越来越多国家和机构正在加速布局网络安全与AI技术的融合。
因此，他提出建议，“大力探索‘AI+安全’创新应用，抢占国家安全的人工智能战略制高点，提高我国应对网络空间安全风险与不确定性的能力，护航中国式现代化行稳致远。”
全国政协委员、全国工商联副主席、奇安信集团董事长齐向东。图/受访者提供
[1]AI既能促进生产力跃升，也蕴含着极大安全挑战
齐向东表示，人工智能（AI）在促进生产力跃升的同时，还蕴含着极大的安全挑战。一方面，AI的兴起会加剧安全威胁，如数据泄露、欺诈攻击、社会治理安全等。他举例，以ChatGPT为代表的生成式AI能快速生成钓鱼邮件、编写恶意软件与代码等，导致攻击数量增加，AI欺诈事件频发。
他还表示，生成式AI还带来了数据非法获取、数据泄露及恶意滥用等数据安全问题，如ChatGPT在对话交互过程中能获取用户数据，加剧数据泄漏风险。不法分子还能利用“深度伪造”换脸变声、伪造视频，导致网络诈骗增多，甚至引发社会认知混乱。
另一方面，齐向东认为，AI还会加剧攻防失衡，利用和针对AI的攻击增多，将可能导致网络安全“易攻难守”。他表示，人工智能大幅降低了网络攻击门槛，不懂代码、不懂技术的普通人也能成为黑客，增加了网络攻击数量，专业的黑客组织还可以利用人工智能对网络攻击进行改造升级，比如，利用AI制作恶意软件、生成规避杀毒软件检测的代码等，网络攻击能力将出现跃升。
此外，他还表示，AI兴起也可能造成机器视觉攻击、数据源污染等攻击频发，攻击者能通过对抗样本、数据投毒、模型窃取等方式对AI算法进行攻击，使其产生错误判断，同时由于算法黑箱和算法漏洞的存在，这些攻击往往难以检测和防范。
[2]应对网络安全风险，建议抓住“企业创新、政策牵引、人才”三个关键
针对人工智能（AI）兴起可能造成的安全风险与挑战，齐向东建议，可以抓住三个关键，创新发展“AI+安全”，提高应对网络空间安全风险与不确定性的能力。
他表示，“技术创新产品需要在应用中更新迭代走向成熟，特别是人工智能大模型，数据样本越丰富，成长速度越快。”
因此，他建议，从供给侧的角度可以鼓励各行业头部企业与专业安全厂商结成创新联合体，在关键行业选取典型场景开展联合创新，共同探索大模型安全创新产品在威胁检测、漏洞挖掘、指挥研判等方面的应用，在实战中推动“AI+安全”进入越用越强的良性循环。
从需求侧角度，齐向东表示，积极的政策引导是推动新事物落地应用、成长壮大的催化剂。建议像支持新能源汽车的发展一样，支持“AI+安全”发展，设置专项基金，对研发创新“AI+安全”产品的企业，给予政府基金、贴息贷款或科研项目等支持；对率先取得技术突破，实现成果转化的科研机构和企业给予奖励；对积极使用相关技术、产品和服务的企业给予相应补贴，推动“AI+安全”相关产业取得更多科技创新成果。
同时，齐向东还提出，随着AI技术的普及和应用领域的不断扩展，中国AI人才将严重短缺。“工信部数据显示，人工智能不同技术方向岗位的人才供需比均低于0.4，其中智能语音和计算机视觉的岗位人才供需比分别为0.08、0.09，相关人才极度稀缺。”
因此，他建议充分发挥民营企业在人才培养上的优势，鼓励成立校企共同体，在实践中培养更多大数据、人工智能、网络安全等新兴产业领军人才。
九派新闻特派记者陈伟北京报道
