什么是人工智能网络钓鱼以及法学硕士 (LLM) 如何增加网络钓鱼风险
- 关键要点：
-
什么是人工智能网络钓鱼？
这是一种网络攻击方法，使用生成式人工智能工具来制作超现实和个性化的网络钓鱼电子邮件。 -
人工智能如何提高网络钓鱼的有效性？
通过大规模生成语法正确、符合语境且令人信服的信息。 -
为什么人工智能发起的攻击更难检测？
他们通过改变结构、语气和词汇来逃避传统的模式匹配技术。 -
对组织来说有哪些潜在风险？
一次入侵就可增加点击率、凭证泄露和横向移动。 -
哪些检测策略对人工智能网络钓鱼有效？
基于行为的分析、跨渠道关联和用户活动监控。 -
Stellar Cyber 如何帮助检测人工智能网络钓鱼？
通过在其 Open XDR 平台内关联电子邮件、端点和网络层的网络钓鱼指标。
为人工智能网络钓鱼做好准备：点击率由两个杠杆驱动
网络钓鱼攻击（就像网络安全领域的许多攻击一样）具有循环生命周期。某种形式的网络钓鱼攻击变得特别流行和成功，它引起了安全人员的注意，并且员工接受了有关其特殊性的培训。然而，没有令人满意的结论——与软件补丁不同，员工仍然会受到攻击，尽管他们拥有多年的工作经验和网络钓鱼培训。
深入挖掘时，评估组织网络钓鱼防范水平的最流行方法是整体点击率。这可以简单反映出谁会上当受骗，这些是内部制作的模拟网络钓鱼电子邮件。然而，这个指标总是变化无常。当 CISO 寻找证据证明他们投入大量时间和资源的网络钓鱼培训是有效的时，评估负责人甚至可能倾向于降低这些模拟网络钓鱼攻击的复杂性，以寻求更低的点击率——间接损害组织的整体安全立场。
2020 年，研究人员 Michelle Steves、Kristen Greene 和 Mary Theofanos 终于能够将这些无限变化的测试归类为一个网络钓鱼量表 (PDF)。在此过程中，他们发现网络钓鱼电子邮件的“难度”仅取决于两个关键特征：
- 消息中包含的线索；也称为“钩子”，或消息格式或样式的特征可能会暴露其恶意性质。
- 用户的背景。
一般来说，线索越少，点击率越高，电子邮件与用户自身背景的契合程度也越高。为了说明这一点，以下示例在个人契合度方面取得了 30 分（满分 32 分）：
作为一个组织，NIST 非常重视安全，实验室经理和 IT 团队尤其如此。为了利用这一点，有人伪造 Gmail 地址制作了一封测试电子邮件，该地址声称来自 NIST 的一位董事。主题行写着“请阅读此内容”；正文用名字称呼收件人，并写着“我强烈建议您阅读此内容”。下一行是一个 URL，带有文字“安全要求”。最后是（假定的）董事的简单签名。
这封电子邮件（以及其他专注于高度一致的安全要求的电子邮件）的平均点击率为 49.3%。即使是令人震惊的简短、一行字的攻击，消息的线索和个人一致性决定了它的有效性。
人工智能网络钓鱼如何增强两个杠杆
提示是员工网络钓鱼培训的主要内容，因为它们为收件人提供了一种在攻击发生之前窥探幕后情况的方法。其中最主要的是拼写和语法错误：这种关注如此普遍，以至于许多人认为拼写错误是故意添加到网络钓鱼电子邮件中的，以便找出易受攻击的人。
虽然这个想法不错，但这种方法让绝大多数人更容易受到网络钓鱼攻击。攻击者现在需要做的就是完善邮件的语法和格式，以便在快速浏览时获得足够的可信度。法学硕士是实现这一目标的完美工具，免费提供母语级的流利程度。
通过消除网络钓鱼电子邮件最明显的特征，攻击者可以自由地开始占上风。 Steves 等人的研究承认，攻击与收件人自己的前提的契合程度比线索更重要。 正是在这个领域，法学硕士独树一帜。
法学硕士在侵犯隐私方面非常高效
通过了解目标可以实现个人协调；这就是为什么发票钓鱼攻击几乎在财务部门以外的所有部门都失败的原因。然而，攻击者不太可能在野外花数月时间研究受害者；他们不懈的利润动机决定了攻击必须高效。
幸运的是，法学硕士能够几乎免费地开展广泛的数据收集和推理活动。 2024 年 Robin Staab 等人的研究 （PDF）是第一个研究预训练的 LLM 如何从文本中推断出个人信息的研究。研究人员从 520 个假名 Reddit 个人资料中抓取了他们的信息，并通过一系列模型来查看每个评论者的年龄、位置、收入、教育程度和职业。
为了了解其工作原理，请考虑有关通勤的评论： “我……被困在等待转弯处”
GPT-4 能够识别出“弯道”这个小提示——这是墨尔本特别常用的一种交通操作。完全不同的主题和上下文中的其他评论包括提到“34D”的价格，以及关于他们高中回家后如何观看《双峰》的个人轶事。总的来说，GPT 能够正确推断出该用户是一位居住在墨尔本的女性，年龄在 45-50 岁之间。
研究人员在所有 520 个用户资料中重复该过程，发现 GPT-4 可以分别以 97% 和 92% 的正确率推断出发帖人的性别和出生地。在之前研究对职场网络钓鱼的分析的阴影下，当你停下来思考其他不那么匿名的网站（如 LinkedIn）上的信息量时，法学硕士从社交媒体帖子中推断出深入的个人品质的能力就变得特别令人担忧。
总体而言，这一推理过程比人类数据集得出相同结论的速度快 240 倍，而且成本仅为其一小部分。抛开猜测，正是这最后一个因素让人工智能驱动的网络钓鱼如此强大：成本。
法学硕士增强网络钓鱼经济学
人工网络钓鱼活动的利润瓶颈并不在于点击人数，而在于编写新邮件或定制邮件的劳动量。由于网络钓鱼攻击者主要受经济利益驱使，因此在定制和发送之间取得平衡可以控制某些操作的规模。
现在，LLM 能够在短短几分钟内生成大量网络钓鱼消息，同时推断出每个受害者的定制途径，因此攻击者的工具包从未如此丰富。
与 Stellar Cyber 保持同步
员工培训需要时间，而网络钓鱼的发展速度之快可能会让数千家企业面临风险。为了应对这种高威胁级别，Stellar Cyber 提供了集成的网络和端点防御，即使攻击者绕过员工，也能将其拒之门外。
端点监控可以实时洞察潜在的恶意软件部署，而网络保护可以让你看到并阻止攻击者在那里建立立足点。用户和实体行为分析 (UEBA) 可让你在正常情况下评估每个操作，进一步帮助你发现潜在帐户泄露的迹象。保护你的团队并阻止攻击者 Stellar Cyber 的开放式 XDR.
