2023 年，网络攻击的频率和复杂程度均激增。尖端黑客工具和技术的激增——由于生成人工智能的进步，现在比以往任何时候都更容易获得——创造了一个有利于网络威胁猖獗的环境，迫使组织采取积极主动的措施来确保其数字资产的安全。
进入 2024 年，攻击面将进一步扩大，威胁可能会变得越来越难以捉摸。考虑到基于人工智能 (AI) 和大型语言模型 (LLM) 的工具的功能和可访问性不断增强，我们必须领先威胁行为者几步，并了解来年会采取哪些策略。
1. 自定义类似 ChatGPT 的机器人：制作令人信服的社会工程攻击
OpenAI 的定制 GPT 是黑客将在 2024 年利用的强大新工具的典型例子。鉴于其易用性，技术技能水平低得多的人可以利用它们来设计和发起高度可信的社交操纵攻击。
想象一下攻击者使用 ChatGPT 生成的文本伪装成经理或部门负责人的场景。他们向毫无戒心的员工发送一个类似 WhatsApp 的应用程序的链接，在该应用程序中，他们将与 GPT“经理”进行对话，说服他们转移资金或共享敏感数据。以类似的方式，生成式人工智能服务可用于引导受害者与 GPT 支持的“帮助台”或“IT 代表”进行对话。这些欺骗性攻击在企业中变得越来越普遍，并且只会随着新的生成式人工智能工具和功能的出现而增长。
仅依靠员工意识不足以识别并预防此类威胁。因此，必须优先考虑维护强大的安全协议。
2. SaaS 应用程序作为隐形攻击媒介：向 TeamsPhisher 学习
2024 年，网络犯罪分子将继续利用现代 SaaS 应用程序，将恶意负载嵌入到云中，并利用显而易见的安全漏洞。随着大流行和远程工作环境的兴起，这些隐蔽的策略继续在雷达下飞行，并在组织的防御中造成漏洞。
就在去年夏天，威胁行为者使用名为TeamsPhisher的恶意开源程序，通过 Microsoft Teams 向毫无戒心的用户发送网络钓鱼诱饵，以实施后续网络攻击，包括勒索软件攻击。这强调了 SaaS 应用程序在不知情的情况下成为威胁行为者的帮凶的重要性。
组织应该预期这种攻击媒介将继续成为强大的网络前沿，并相应地强化其安全框架。
3. 网络攻击活动中人工智能驱动的自动化：未来一瞥
在开发人员和安全团队手中，人工智能可以提高生产力，简化众多业务运营。但在威胁行为者手中，它可以用来破坏公司防御并提取敏感数据。
攻击者准备利用人工智能日益强大的自动化能力来识别云基础设施中的漏洞，并以极高的效率和精度精确定位恶意电子邮件活动。因此，虽然人工智能驱动的自动化可以减轻各行业办公室员工的大量工作量，但它也为威胁行为者提供了同样的便利。
4. Deepfakes 和多模态 ML 模型：欺骗的演变
在人工智能领域，多模式机器学习模型使攻击者能够生成令人信服的音频、图像和视频来欺骗毫无戒心的员工。
到 2023 年，深度造假活动将惊人地增长3000%，这种复杂的技术被用来创建与合法邮件几乎无法区分的通信，同时还具有更便宜、更易于使用的优点。
这种欺骗行为将继续对无数组织构成严重威胁。随着这些模型的复杂性和制造能力的成熟，教育员工识别和报告企图违规和错误信息活动将变得至关重要。
5. 防范LLM支持的服务中的对抗性提示：启动前沿
随着 LLM 支持的服务在整个公司工作流程中不断激增，企业领导者将需要建立强大的保护措施，防止恶意提示注入——LLM 的输入旨在操纵输出或改变标准处理程序。
不幸的是，公司选择输入法学硕士用于垂直或特定运营培训目的的内部数据很容易被泄露。通过输入精心设计的提示，黑客可以操纵法学硕士泄露敏感数据，这可能会带来违规和罚款的风险。此类数据安全漏洞需要积极主动的解决方案。
因此，对于依赖法学硕士服务的组织来说，缓解这些挑战的远见至关重要，为致力于防止对抗性提示损害数据安全的一套新解决方案奠定了基础。
随着人工智能的不断成熟，威胁形势也在不断成熟。应对人工智能系统引发的网络攻击将是整个 2024 年的关键业务目标。
通过部署工具和分层解决方案来识别和解决持续打击黑客的新战线，组织将能够领先其数字对手一步。