应对新科技催生的安全新挑战

助力体系化构建政法安全底座

芮子文

上海文鳐信息科技有限公司首席科学家

在这个快速发展的科技时代，AI和网络安全的有机结合，既带来了机遇，也带来了巨大的挑战。

一、 AI的基础逻辑：猜测机器的优点与局限

首先，我们需要理解AI的基础逻辑。AI，本质上是一个经验主义的猜测机器。它的工作原理基于大量数据的输入，通过学习这些数据的模式和规律，生成相应的输出和预测。AI的优点是可实现性强，它能够高效地处理海量信息，并在不需要复杂的推理基础上，快速给出结果。但AI的缺点同样显而易见：没有原理上的保证，它的预测和结果是基于训练数据的，而不是基于深刻的理论逻辑。

相比之下，物理科学是建立在还原论、经验主义和逻辑推理基础上的。物理学的优点是确定性强，通过逻辑推导和严密的理论方程，可以得出确定的结果；但物理学的缺点在于，在面对复杂系统时，它的计算复杂度极高，且难以处理噪音和不确定因素。因此，AI和物理代表了两种不同的处理方式：AI注重效率和经验，而物理则强调确定性和理论。

二、 AI与物理的融合：现状与未来

那么，AI和物理的结合是否可能？理想中的结合是由物理方程作为约束，再结合历史数据调整损失函数确定参数并给出预测，但当前的AI领域还不能达到。当前的AI模型，尤其是物理信息神经网络（PINN），已经尝试将物理方程引入AI模型，将方程融入到损失函数中进行梯度下降。这种方法尝试将AI的灵活性和物理的约束性结合起来。然而，这还远远不够。PINN只能在一定程度上将方程的约束带入AI推理过程，但它仍然没有充分体现物理原理的确定性。未来的AI发展，尤其是应用在网络安全领域时，必须在AI模型中融合更深层次的物理原理和逻辑推理，才能在安全和效率之间找到平衡。

三、网络安全现状：AI黑客的崛起

接下来，我们谈谈网络安全的现状。自2023年以来，AI黑客攻击的数量激增，不同种类的攻击量暴增了10-30倍。像WormGPT、EvilGPT等AI工具，已经能够自动生成诈骗信息、编写恶意代码，并发起漏洞攻击。这些AI黑客工具让原本需要专业知识的攻击手段，变得更加容易上手，甚至可以实现自动化攻击，导致网络安全环境变得更加复杂。

然而，目前AI黑客的威力还不够大。原因在于，当前的AI工具在漏洞攻击时没有明确的攻击方向，也就是说没有人为确定的损失函数。AI只能依靠海量的数据来进行猜测，而没有融入网络攻击的原理性知识。因此，AI黑客可以通过大量且广泛的攻击，接近顶级人类黑客的水平，但仍然难以超越那些真正理解漏洞原理的黑客。

四、未来展望：加强AI底层研究与约束模型的进化

在这样的背景下，我们要如何应对？显然，我们需要加强AI底层的研究。当前的AI虽然在某些领域表现出色，但其局限性仍然明显，特别是在网络安全领域。为了让AI真正成为防御与攻击的有力工具，我们需要进一步研究如何在AI中引入带有约束方程的进化模型。这意味着AI不仅要学习海量数据，还要能够结合物理原理、逻辑推理和数学方程，在复杂的网络环境中提供更智能、更精确的预测与防御。

总结：AI正在重塑网络安全的格局，带来了前所未有的挑战和机遇。我们必须加强对AI与物理相结合的研究，确保在面对未来更加复杂的攻击时，AI不仅能够预测、处理海量数据，还能在原理上具有更强的确定性与有效性。

来源：海丝中央法务区

责编：黄慧儿

审核：方琮 高奇

■即将开幕！他们献上寄语

■海丝扬帆 法治护航

■厦门：解锁海丝中央法务区建设密码