作者：Nick Martindale

编译：IT168 卢敏

人工智能（AI）使用的增长在许多方面影响着企业，但最危险的可能之一是将他们暴露在网络威胁之下。根据2024年6月发布的Gigamon的2024混合云安全调查，全球82%的安全和IT领导者认为，随着人工智能越来越普遍地用于网络攻击，全球勒索软件威胁将会增加。

人工智能加持下的网络攻击：复杂性与威胁升级

随着人工智能技术的不断进步，网络犯罪分子正利用这一技术发起更加复杂和难以识别的攻击。如今，他们借助AI的力量，精心制作极具迷惑性的网络钓鱼和社会工程攻击，使受害者更难分辨真伪。

Abnormal Security的机器学习主管Dan Shiebler指出，利用诸如ChatGPT之类的先进工具，网络犯罪分子能够轻松生成极具说服力的电子邮件和消息。这些精心设计的攻击不仅书面表达完美，甚至还能实现个性化定制，从而大大提高欺骗收件人的成功率。

更为惊人的是，人工智能还在推动全新模拟方式的发展，即深度伪造技术。Gigamon的最新调查显示，近四成的安全领导人表示，在过去一年中，他们观察到与深度伪造相关的攻击呈现上升趋势。Gigamon的EMEA技术传播者Mark Jow警告说，Deepfake技术不仅具有模拟真实人物进行操纵的潜力，甚至还能通过虚假视频通话、录音和电话等手段诱导员工泄露个人信息或进行非法汇款。

一个令人震惊的案例是，2024年2月，一家工程公司的财务人员Arup在一场群组实时视频聊天中被骗走了高达2560万美元。骗子冒充公司首席财务官和其他员工，成功诱导该财务人员进行了资金转移。Prism Infosec的安全顾问Chris Hawkins揭示了这一骗局的内幕：受害者在收到来自所谓“英国首席财务官”的资金转移请求后，尽管感到不寻常，但在进行视频通话确认时却未能识破骗局。原来，通话中只有受害者是真实的，其他所有人都是深度伪造的虚拟人物。

此外，网络犯罪分子还利用人工智能来识别和利用分布式拒绝服务（DDoS）攻击的机会和漏洞。NETSCOUT安全首席技术官Darren Anstee解释说，人工智能不仅用于精确定位和选择合适的初始攻击向量，以确保攻击产生最大影响，还用于实时调整攻击策略，以克服目标系统的防御措施。这种动态调整的能力意味着攻击可以在几乎没有任何预警的情况下产生巨大破坏力，并且能够频繁更改策略以规避静态防御手段。

随着人工智能技术的不断发展，网络犯罪分子正利用其强大功能发起更加复杂和难以防范的攻击。因此，我们必须保持高度警惕，加强安全防护措施，并不断更新我们的防御策略以应对这一新兴威胁。

警惕组织内部的人工智能风险

随着人工智能的广泛应用，组织在享受技术带来的便利与效率的同时，也可能因此暴露于网络威胁之下。Hogan Lovells律师事务所的研究显示，高达56%的合规领导者和C级高管认为，组织内滥用生成性人工智能是未来几年可能影响组织的顶级技术风险。然而，令人担忧的是，超过四分之三（78%）的领导人坦言，他们的组织允许员工在日常工作中自由使用生成性人工智能。

这其中潜在的最大威胁之一是“影子人工智能”。这是一种被犯罪分子或其他恶意行为者利用或操纵的基于人工智能的程序，用以实施伤害。Globant的英国和爱尔兰首席技术官Isa Goksu发出警告：“对手有可能操纵用于开发这些人工智能系统的基本代码和数据，导致产生错误、有偏见甚至冒犯性的结果。”他举例说，比如注入攻击，对手可以精心设计输入提示，以绕过模型的预期功能，触发有害或不良内容的生成。

面对这些风险，组织必须保持高度警惕。Jow强调，组织需要充分认识到这些活动的潜在风险。他指出：“虽然这些服务通常是免费的，吸引了员工非记录性地使用人工智能应用程序，但它们往往伴随着更高的安全风险，并且很大程度上缺乏监管。”因此，CISO（首席信息安全官）必须确保组织内部的人工智能部署是安全的，并且严格避免向任何不安全的人工智能解决方案泄露专有、机密或私人信息。

此外，Jow还建议：“在代码层面挑战这些工具的安全性也至关重要。”这意味着组织需要审视人工智能解决方案的来源，确保其来自可信赖和有信誉的提供商，无论是在数据保护、隐私还是合规方面都应有良好的历史记录。最后，他补充说，制定明确的人工智能使用政策也是必不可少的。

面对威胁，我们怎么办？

随着人工智能技术的不断进步，网络威胁也日益增多。为了降低组织受人工智能相关网络威胁的风险，我们需要采取一系列有效的措施。

首先，教育员工了解不断变化的威胁是至关重要的。Hawkins强调，员工需要时刻保持警惕，对可能的网络攻击有所认识。然而，仅靠员工的警惕性是不够的，还需要结合弹性数据恢复计划和深入的防御策略。例如，在大额资金转移等关键操作中，应确保有多名高级工作人员的签字，以增加一层额外的安全保障。

除了加强员工的教育和培训外，组织还需要从技术和策略层面进行改进。网络安全初创公司Teleport的CEO Kontsevoy提出，组织应围绕证书和特权进行安全策略的检修。他建议采用基于物理世界属性的加密身份认证，如生物识别，并强制执行临时特权访问，仅在需要完成工作时才授予权限。这样可以大幅减少攻击者通过策略所针对的攻击面。

面对人工智能带来的新威胁，组织必须利用各种技术来确保安全。Goksu指出，网络犯罪分子预计将越来越多地利用人工智能进行攻击，使用复杂且难以检测的恶意软件和侦察工具。这可能导致平台被大量由人工智能生成的内容、深度伪造信息和错误信息所淹没，从而加剧了社会工程风险。

因此，组织必须跟上关键人工智能系统中的风险漏洞，以避免代价高昂的故障、法律问题和声誉损害。未能投资于培训、安全和人工智能防御可能会使组织遭受毁灭性的攻击，并严重侵蚀客户信任。为了确保组织的安全，我们需要采取全方位的策略，包括员工教育、技术改进和持续的威胁监测。

来源链接：https://www.information-age.com/will-more-ai-mean-more-cyberattacks-123510778/