人工智能将如何改变 2024 年的安全格局

了解攻击者和防御者之间不断变化的动态的方法之一是通过外部因素的视角。 在进行此类分析时，我们通常将主要因素缩写为“PESTLE”，这是政治、经济、社会、技术、法律和环境力量的缩写。 毫无疑问，我们认为在网络威胁领域引起最大波澜的技术因素是人工智能的快速发展。

网络犯罪分子越来越多地使用人工智能来提高攻击的有效性和效率。 与此同时，对于防御者来说，人工智能被证明是安全团队的强大盟友，可以改善威胁检测和补救。 对人工智能自动化安全任务的需求已经到来。 英国政府最近的一份报告显示，英国已经结束了 160,000 个网络安全职位空缺需要填补。

我们预计人工智能在网络安全领域的影响今年将显着增长。 它将推进网络钓鱼技术并加速系统中的漏洞发现。 人工智能还将加快网络入侵的发展和响应。 为了领先于已经开始采用人工智能的对手，安全团队必须了解人工智能带来的威胁，以及它所带来的改善网络防御的机会。

到 2024 年，组织应重点关注人工智能变革网络安全的三个成熟领域：

#1 – 人工智能增强的社会工程攻击

到 2024 年，人工智能将提升社会工程攻击的规模和有效性，在短短几分钟内创造出极具说服力的网络钓鱼诱饵。 网络犯罪分子将利用人工智能，利用社交媒体和被泄露的电子邮件帐户中的数据生成个性化的网络钓鱼消息。 即使对于训练有素的员工来说，这些复杂的诱饵也很难被发现。

更重要的是，生成式人工智能将把网络犯罪分子变成更好的骗子。 人工智能将帮助攻击者用不同的语言制作精心编写、令人信服的网络钓鱼电子邮件和网站，使他们能够跨地区扩大其活动网络。 我们预计社会工程攻击的质量将会提高，从而使目标和安全团队更难发现诱饵。 因此，我们可能会看到与社会工程相关的风险和危害增加——从欺诈到网络入侵。

我们还可能会看到围绕英国大选、体育赛事（例如巴黎奥运会、欧洲冠军联赛）和购物活动（例如黑色星期五、节礼日促销）等重大事件的大型人工智能网络钓鱼活动。 随着人工智能生成的电子邮件与合法电子邮件几乎无法区分，仅依靠员工培训来保护用户是不够的。 相反，安全团队应该考虑使用不依赖检测来保护员工的隔离技术，例如微虚拟化。 该技术可在隔离的虚拟环境中打开有风险的文件和链接，防止恶意软件和软件漏洞（甚至零日威胁）感染设备。

#2 – 本地大语言模型 (LLM)

随着计算能力的增强，新一代“AI PC”将能够运行本地LLM，而无需依赖强大的外部服务器。 这将使个人电脑和用户充分受益于人工智能，重新定义人们与设备的交互方式。

这些本地法学硕士承诺提高效率和生产力，同时通过独立于互联网工作提供安全和隐私优势。 然而，本地模型及其处理的敏感数据如果没有得到适当的保护，可能会使端点成为攻击者的更大目标。

此外，许多企业正在部署基于法学硕士构建的聊天机器人，以提升和扩展其客户服务。 但底层的人工智能技术可能会带来新的信息安全和隐私风险，例如可能暴露敏感数据。 今年，我们可能会看到网络犯罪分子试图操纵聊天机器人绕过安全措施来访问机密信息。

#3 – 高级固件和硬件攻击

人工智能通过帮助技能较低的用户更有效地执行更复杂的任务来推动技术的民主化。 但是，虽然人工智能提高了组织的防御能力，但它也有可能帮助恶意行为者对较低的系统层（即固件和硬件）进行攻击，近年来攻击活动一直在增加。

从历史上看，此类攻击需要广泛的技术专业知识，但人工智能开始显示出降低这些障碍的希望。 这可能会导致更多的努力来利用较低级别的系统，从而为攻击者提供低于操作系统和业界最佳软件安全防御的立足点。

随着时间的推移，我们预计针对系统固件（例如 MoonBounce 和 CosmicStrand）的恶意软件的频率将会增加。 这些攻击依赖于利用操作系统下的弱点。 专注于关闭硬件和固件攻击面对于应对这些威胁至关重要。

网络安全的新领域

人工智能将改变网络安全，为安全团队提供大量机会来改进威胁检测和响应。 例如，人工智能副驾驶将通过自动检测有针对性的网络钓鱼尝试来帮助保护用户。

2024 年人工智能 PC 的推出还将带来安全优势，使用户能够在设备上安全地使用人工智能，而无需承担将数据存储在云中的风险。 这些设备还将通过自动锁定和隐私屏幕等功能增强数据隐私。

然而，为了有效利用人工智能，企业应将安全放在首位。 这意味着了解您的数据和环境，进行威胁建模以了解您的风险，选择预防和检测技术的平衡，并实施零信任原则以确保数据安全。 最后，组织应考虑与值得信赖的人工智能安全提供商合作，以充分利用人工智能，同时最大限度地降低安全和隐私风险。

亚历克斯·霍兰德 是高级恶意软件分析师 生命值。

有关人工智能和网络安全的更多信息

NCSC 发布安全人工智能开发指南 – 国家网络安全中心 (NCSC) 的新指南旨在帮助企业利用人工智能进行安全创新并最大程度地降低风险