数字化转型浪潮的来临促使人工智能技术得到了企业的普遍关注和重视。在数字化转型的同时，越来越多企业采用混合云架构部署，因而面临的网络安全风险也日益严峻及多样化。在AI转型的时代浪潮下，人工智能成为网络安全技术发展的必然趋势之一。随着ChatGPT和类似生成式人工智能技术的飞速发展，基于大模型的生成式人工智能让攻击能力显著增强，“我们不可能利用人力去阻挡AI攻击，我们必须利用AI去对抗AI，这是唯一的出路”，日前，在派拓网络Ignite中国2023（北京站）媒体沟通会上，发言人派拓网络Unit 42顾问总监刘俊佃如此说道。
派拓网络Unit 42顾问总监 刘俊佃（图源：派拓网络）
AI让攻击者的能力更强
在网络安全防御方面，人工智能技术可以比传统方法更快、更准确地识别潜在威胁，检测高级恶意软件，辅助行为分析，提高网络安全团队的工作效率等，以此显著增强网络安全势态。但任何事物都具有两面性，对企业来说AI可以赋能网络安全防御，但也可以成为网络犯罪分子的一种不道德的工具。虽然我们希望科技向善，但是如果这些科技被一些坏分子或者网络攻击者当作武器来使用，那么科技就会变得向恶。
随着基于大语言模型的生成式人工智能的应用快速发展，其安全风险已经开始快速累积。
刘俊佃介绍，AI在某个层面加强了攻击者的能力，比如WormGTP可以让攻击者很容易地完成木马程序或者钓鱼邮件内容，而且运用AI来驱动这一类型的工具的时候，所写出来的文字相当完美，可以成功躲避之前利用文字漏洞的防御方法。
软件工程师正在通过使用基于AI的代码创建加速器来提高开发效率，当然，这些工具也可以加速网络攻击者的软件开发，减少从发现漏洞到利用漏洞的代码时间，所以利用AI能让攻击者的攻击更快、更简易。
网络攻击者还可以利用一些AI开源技术绕过安全监测，利用AI发起更复杂的攻击，比如人工智能驱动的恶意软件可以学习并适应目标系统使用的安全措施，使其更难以检测和删除。
用AI对抗AI，未来网络安全关键策略
AI加强了网络攻击和网络安全防御之间的斗争。AI技术的应用对网络安全带来了全新挑战，网络黑客的攻击手段更加丰富，发起攻击的技术门槛也相应降低，这必定导致攻击次数总量的增加。对于组织而言，了解人工智能对网络安全的潜在影响并采取适当措施来缓解这些风险非常重要。
人工智能的应用给数据安全提出了更高的要求。因为AI可能涉及处理敏感数据，例如患者记录、财务信息和个人数据等，数据泄露对于任何一家企业来说都是一场灾难。刘俊佃介绍，“企业很重要的一点就是对知识产权的保护，这包含企业的人员、知识产权以及企业所管辖的所有数据”。
另外，大模型的存在可能会改变攻击者的威胁模型。攻击者可以利用大模型中的漏洞和不足来攻击系统，例如使用对抗性样本来欺骗模型，或利用漏洞进行恶意操作。AI模型需要大量的计算资源进行训练和推理，这可能会吸引黑客攻击这些计算资源，例如使用DDoS攻击或入侵攻击来破坏或窃取数据。
刘俊佃强调，AI让攻击者的攻击行为更快、更强、更精准，我们之前所了解和熟知的一些防御模式和方法需要改变，不可能利用人力去阻挡AI攻击，必须利用AI去对抗AI，这是唯一的出路。他还建议，攻击者已经开始合作和分享案例，互相分享成功的经验和失败的教训，对于防御者，企业跟企业、企业跟大环境也应该开展更密切的合作，一个开放、透明、可分享的生态系统也是我们继续前行的一个很重要的路径。
派拓网络安全公式：零信任+平台=前瞻性
一个企业持续、长期、安全的运行，就在于它能够很好地防御自身所有的信息。企业要非常清楚地保证自己的生态系统能够受到很好的防御，分析并识别企业运营的整个环境的风险点，同时，随着AI的不断进展，要调整对于企业所运行的风险、环境的假设。企业需要更加谨慎地拟定“企业的网络安全战略”，需要以人工智能为核心进行设计并构建安全风控体系，采用平台化的解决方案应对各种可能出现的风险和事件。
在派拓网络技术的支持下，通过汇集业界领先的威胁情报、事件响应和网络风险专业知识，Unit 42为全球企业提供战略性建议。
刘俊佃介绍，基于目前AI所引发的新威胁的特点：更加可规模化、攻击视角不同、攻击本质发生了变化，所以，这也导致Unit 42在收集威胁情报的时候，和从前相比会有一些不同。
从工具上讲，相比单点安全产品的大量叠加，平台化的解决方案可以实现全面、自动化的安全防御，真正做到主动有效地保护企业的网络安全。派拓网络有一个安全公式：零信任+平台=前瞻性。零信任指的是杜绝任何隐含信任并以持续验证为基础的策略；平台指的是根据需求连接不同类型的最佳功能，实现最大的可见性、控制和效率；前瞻性指的是轻松安全转型，让企业在安全的环境下高效地运营和创新。
依托于派拓网络Unit 42专业安全团队对全球发生的安全事件和情报进行及时的分析和响应，派拓网络的下一代网络安全平台可以从网络、云、端点三个维度应对数字经济时代的安全挑战，并在所有安全方案之上提供一套自动化安全运营分析系统，可为企业的网络安全保驾护航。