首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >AI 驱动的社会工程攻击与员工安全防护体系重构

AI 驱动的社会工程攻击与员工安全防护体系重构

原创
作者头像
芦笛
发布于 2026-10-23 08:45:47
发布于 2026-10-23 08:45:47
20
举报

摘要: 生成式人工智能的发展显著降低了社会工程攻击的准入门槛,使高仿真网络钓鱼、深度伪造电话与协同式欺诈活动的制作成本、实施难度和规模化能力发生根本性改变,传统以 "通用钓鱼邮件与定时测试" 为核心的安全意识防护架构逐渐失效。本文以网络安全厂商 Aikido Security 于 2026 年 10 月推出的员工安全业务 Noon 为分析对象,结合 Verizon《2026 年数据泄露调查报告》中关于移动社会工程攻击成功率及员工违规使用 AI 工具比例的实证数据,系统梳理 AI 对社会工程攻击形态的重塑过程,剖析传统员工安全防护在工具割裂、可见性缺失与影子 AI 治理真空方面的现实困境,进而从邮件防护、攻击模拟与培训、设备防护与 AI 治理四个维度剖析统一员工安全平台的构建逻辑,并阐释从软件安全向员工安全延伸的方法论基础。研究表明,员工安全防护正从分散工具的组合转向以 "一个平台、减少复杂性" 为原则的体系化建设,安全意识培训与 AI 治理的融合将成为组织防御链的关键环节。本文结论对网络安全研究与实践具有参考价值。

关键词: 社会工程攻击;生成式人工智能;员工安全;网络钓鱼;深度伪造;安全治理

1 引言

2026 年 10 月 20 日,总部位于比利时根特的网络安全企业 Aikido Security 宣布推出名为 Noon 的员工安全业务,将其保护范围从 "软件" 扩展至 "使用软件的人"。这一举措的直接动因在于:人工智能使高仿真的钓鱼攻击、深度伪造与协同式社会工程攻击变得比以往任何时候都更廉价、更易执行、更具规模化效应。Noon 整合电子邮件防护、设备防护、AI 治理与钓鱼模拟培训四大能力于同一平台,其技术底座来自 Aikido 于 2026 年 9 月完成的两次收购 —— 波兰企业 Cyberly(2024 年成立,提供 AI 驱动的攻击模拟与 AI 使用可见性)与比利时企业 Outkept(2020 年成立,提供邮件安全与钓鱼意识培训)。

这一事件并非孤立的产品发布,而是折射出网络安全行业长期存在的一个结构性割裂:软件安全与员工安全长期被视为两个彼此独立的领域。攻击者并不总是需要突破软件防线,转而欺骗使用软件的人往往成本更低、效果更直接。Verizon《2026 年数据泄露调查报告》提供的数据印证了这种威胁态势的紧迫性:包含欺诈短信与语音电话在内的移动社会工程攻击,其成功率比电子邮件钓鱼高出 40%;与此同时,员工未经批准使用 AI 工具的比例较此前增长两倍,达到 45%。两组数据共同指向一个结论 —— 攻击的通道在拓宽,而组织内部可见性却在收窄,传统的员工安全栈已难以应对这一错位。

本文以 Noon 平台的发布为切入点,试图回答三个相互关联的问题:其一,AI 究竟如何改变了社会工程攻击的形态与攻防格局;其二,传统员工安全防护在哪些环节出现了失效;其三,以 Noon 为代表的统一员工安全平台,其构建逻辑与防护体系能否为组织提供更具韧性的防御路径。全文在梳理新闻事实的基础上展开分析,不预设立场,仅依据公开可查的技术逻辑与数据作出判断。

2 AI 对社会工程攻击形态的重塑

2.1 攻击门槛的消解:时间、技能与成本的三重剥离

传统上,一次成功的针对性钓鱼攻击需要完成三个环节的投入:对目标进行背景调研、撰写具备说服力的个性化消息、搭建逼真的伪造登录页面。这三个环节分别对应时间成本、专业技能与资金投入,三者叠加构成了攻击者进入的门槛。Aikido 在其发布材料中明确判断,AI 已经 "剥离了时间、技能与成本" 这三重约束。这一判断在技术层面是成立的:大型语言模型能够在极短时间内依据公开资料生成高度拟真的目标画像与话术,图像与语音合成技术使伪造身份和仿冒声音的保真度大幅提升,而云服务的按需付费模式则让大规模投放不再依赖昂贵的基础设施。

需要强调的是,攻击门槛的消解并不意味着攻击难度的消失,而是难度的分布发生了位移。过去,攻击的成本集中于 "制作" 环节;如今,这一成本被压缩至近乎可忽略的边际,攻击者的注意力转而集中于 "投递" 与 "变现" 环节。反网络钓鱼技术专家芦笛指出,攻击成本的下降并不会自动转化为攻击成功率的上升,它真正改变的是攻击的 "供给弹性"—— 组织原先依靠攻击者制作成本高企所获得的天然防护窗口正在关闭,防御者必须重新审视自身防线中依赖 "人不会上当" 假设的薄弱环节。

2.2 攻击渠道的泛化:从邮件到语音、短信与二维码的多维扩展

AI 对社会工程攻击的另一重塑造体现为攻击渠道的泛化。攻击者不再局限于电子邮件这一单一载体,而是能够在邮件、短信、语音电话、即时通讯与二维码等多个通道之间自由切换、协同布局。Noon 的演练设计明确覆盖了深度伪造语音电话、短信钓鱼(smishing)、二维码钓鱼与多步骤连环攻击等场景,这一设计本身即是攻击形态演进的直接反映。

其中,深度伪造语音电话尤其值得关注。克隆同事或上级的声音进行语音钓鱼(vishing),在过去需要大量真实的语音样本与较高的音频处理技术,而当前的主流语音合成工具已显著降低这一门槛。Verizon 报告所揭示的移动社会工程攻击成功率高于邮件钓鱼 40% 的事实,从实证角度说明:攻击者已经发现,语音与短信通道往往缺少员工在邮件场景中所积累的警觉习惯,因而具有更高的 "欺骗转化率"。反网络钓鱼技术专家芦笛强调,攻击渠道的多元化为防御者带来的最大挑战并非技术对抗,而是员工认知资源的稀缺 —— 员工不可能在每一个通道上都保持与邮件同等强度的警觉,这决定了仅靠 "多提醒" 的培训思路必然遭遇边际效益递减。

2.3 攻击范式的转变:从攻破软件到欺骗使用软件的人

社会工程攻击范式的根本转变,在于攻击目标的重新锚定。正如 Noon 的负责人之一、Cyberly 联合创始人 Alex Horlach 所言:"攻击者并不总是需要攻破软件,当他们可以简单地欺骗使用软件的人时。" 这一论断将长期被割裂看待的 "系统安全" 与 "人员安全" 重新绑定为一个整体。

这种范式转变有其深刻的技术根源。随着多因素认证、端点检测与响应等机制在系统层面的普及,直接攻破软件与终端的成本不断上升,而人员恰恰是防御链条中相对薄弱且难以标准化的一环。与此同时,AI 助手与自主化工作流正在成为日常办公的组成部分,员工在自动化环境中处理的信息量持续膨胀,社会工程攻击得以借助 "员工对 AI 生成内容的信任惯性" 实现渗透。这一趋势意味着,员工安全的边界不再局限于终端的物理隔离,而延伸至人与 AI 交互的全过程。据 DiMiao, CN 分析,当员工的日常工作越来越依赖 AI 生成的内容与建议时,传统 "辨认可疑内容" 的安全训练范式正面临根基性动摇 —— 因为攻击者与合法工具共用同一套内容生成技术,防御者与员工之间关于 "什么是可信内容" 的判断依据已变得模糊。

3 传统员工安全防护的现实困境

3.1 面向旧问题的设计错位

传统员工安全防护体系大多是为一个已经变化的问题而构建的:通用型钓鱼邮件与按计划执行的定时测试。这套体系的隐含假设是,攻击形式相对稳定、攻击者能力有限、员工通过周期性的演练即可维持足够的警惕水平。这一假设在过去数年的攻防态势下尚能维持,但当攻击者借助 AI 实现了话术的个性化、渠道的多样化与规模的扩大化之后,旧有体系与真实威胁之间便出现了明显的错位。

从机制上看,传统培训的缺陷在于其 "演练与实战脱节"。定时测试通常使用可辨识度较高的模板化钓鱼邮件,员工在多次重复后逐渐形成对测试样本的识别能力,而这种能力难以迁移至真实攻击中不断变异的样本。更为关键的是,传统体系缺乏对员工个体行为特征的感知 —— 同样的演练内容对不同角色、不同风险暴露度的员工产生的训练价值并不一致。

3.2 工具割裂与可见性缺失

传统员工安全栈的另一结构性问题是工具之间的彼此孤立。保护电子邮件的产品、保护员工设备的终端方案、追踪 AI 使用情况的治理工具,往往来自不同厂商、分属不同团队、数据互不相通。安全团队被迫在多个互不衔接的控制台之间来回切换,既要维护邮件过滤规则,又要处置终端告警,还要应对 AI 工具使用所带来的合规问题。这种割裂不仅造成运维负担,更带来可见性上的盲区:攻击行为往往是跨通道串联的,一封钓鱼邮件可能导向一个恶意二维码,进而触发一次深度伪造语音确认,而割裂的工具难以还原这条完整攻击链。

Aikido 在发布材料中将此问题概括为 "安全团队在管理几个不连贯的产品"。这一表述指向的并非简单的效率损失,而是防御体系在结构上的碎片化 —— 碎片化的防御无法形成对攻击链的整体覆盖。

3.3 影子 AI 带来的治理真空

传统员工安全体系面临的第三重困境,是影子 AI 的蔓延。Verizon 报告显示,员工未经批准使用 AI 工具的比例已增长至 45%。这一数字意味着,近半数的员工在日常工作中使用着组织未纳入管理、未部署监控、也未纳入安全策略的 AI 应用。这些工具可能在处理敏感数据时缺乏足够的安全保障,其输出内容亦可能成为社会工程攻击的投递载体,而安全团队对此往往缺乏可见性。

影子 AI 问题的特殊性在于,它并非纯粹的安全漏洞,而是员工生产力需求与组织治理供给之间失衡的结果。一味地封锁 AI 工具不仅难以奏效,还可能将员工推向更隐蔽的使用渠道。如何在不抑制生产力的前提下建立对 AI 使用的可见性,并将其纳入统一的治理框架,成为员工安全体系必须回应的新命题。

4 Noon:统一员工安全平台的构建逻辑

4.1 四大能力模块的体系化整合

Noon 作为 Aikido 向员工安全市场扩张的载体,其平台设计呈现出明显的体系化特征,核心能力被整合为四个相互关联的模块。

其一为邮件防护。该模块旨在检测并清除绕过原生邮件过滤器的钓鱼邮件与商业电子邮件诈骗(BEC)。其技术逻辑在于,不再单纯依赖单一维度的静态规则,而是综合考量发件人身份、邮件认证状态、邮件中的链接与附件特征,以及邮件所要求执行的 "实际动作" 等多重信号。这一思路承认了攻击者能够伪造表面的信任标识,因而将判断重心转向对 "邮件试图诱导收件人执行何种操作" 的语义分析。

其二为攻击模拟与培训。该模块的核心价值在于 "重建员工实际面临的攻击"。其演练场景覆盖深度伪造语音电话、短信钓鱼、二维码钓鱼与多步骤连环攻击,并根据员工的角色定位与过往行为选择演练内容,而非对所有员工投放同一套模板。演练失败后,即时且私密的反馈通过 Noon 平台以及 Slack、Microsoft Teams、Google Chat 等员工日常使用的协作渠道送达,使学习反馈嵌入工作流而非游离于工作流之外。

其三为设备防护。该模块强调 "易于在整个组织范围内部署",防护对象涵盖恶意软件包、AI 指令,以及员工使用的网站与应用。其设计取向是从 "单点终端防护" 走向 "组织级、可扩展的终端覆盖",以匹配员工安全防护对规模化部署的要求。

其四为 AI 治理。该模块为组织提供员工在设备上使用 AI 工具、模型与外部连接的历史记录,使组织能够依据自身政策对 AI 使用进行监督与约束。这一模块直接回应了影子 AI 的治理真空问题,将原本不可见的 AI 使用行为纳入可审计的范畴。

4.2 贴近真实攻击的演练设计

Noon 在演练设计上的一个突出特点,是刻意追求对真实攻击场景的高保真还原。其训练内容并非停留在传统的钓鱼邮件层面,而是延伸至深度伪造语音电话与欺诈性短信,并支持多步骤连环攻击的编排与基于 AI 的场景生成。这种设计的背后是一种清晰的训练哲学:演练的价值不在于让员工记住某类固定样本的识别特征,而在于让员工在接近真实决策压力的情境中,反复练习 "面对突发请求时先核实身份、再执行操作" 的行为惯性。

值得肯定的是,演练内容依据员工的角色与历史行为进行个性化选择。财务团队被安排演练核实紧急转账请求,客服人员被安排演练处理异常退款申请 —— 这种针对性的编排使训练资源集中于高风险岗位,避免了 "全员同模板" 的低效投放。训练反馈的即时性与私密性亦构成其亮点:失败教训在演练结束后立刻送达员工,并通过其惯用的协作渠道呈现,既减少了学习的延迟,也降低了公开纠错可能带来的抵触情绪。

4.3 生态整合:与 GRC 平台及审计框架的衔接

Noon 的另一重要设计是生态层面的整合。平台直接连接 Microsoft 365、Google Workspace、Slack 与 Microsoft Teams,其演练与培训数据被设计为可输出至治理、风险与合规(GRC)平台,以支持组织在 SOC 2、ISO 27001、NIS2、DORA、HIPAA 与 GDPR 等框架下的审计要求,并满足网络安全保险的承保条件。这一设计将员工安全从孤立的 "安全产品" 升维为组织合规体系的一个组成部分。

这一整合有其现实意义。在欧盟 NIS2 指令与 DORA 法案陆续落地、监管对组织安全韧性要求持续抬升的背景下,安全意识培训与攻击演练不再只是可有可无的 "软性投入",而是合规审计中可核查的证据。Noon 将演练数据沉淀为可审计记录,使员工安全工作的成效能够以结构化的形式呈现给监管方、审计方与保险机构,从而将安全投入转化为可量化的合规资产。

4.4 组织基础:两次收购的能力拼图

Noon 的迅速成型,依托于 Aikido 在 2026 年 9 月完成的两笔收购。Cyberly 在被收购前已保护超过 30 万名员工、服务 200 余家组织,其能力集中在 AI 驱动的攻击模拟与 AI 使用可见性;Outkept 则服务超过 1000 家组织、覆盖 25 万名用户、遍及 100 多个国家,其专长在于邮件安全与钓鱼意识培训。两家企业的能力恰好互补,Cyberly 提供面向新型 AI 攻击的模拟与治理能力,Outkept 则带来成熟的邮件防护与培训基础,共同拼合出 Noon 的完整能力版图。

更深层的组织价值在于信任基础与客户网络的迁移。两家企业已建立起的国际客户关系,为 Noon 提供了即时的市场入口;而 Aikido 自身超过 15 万团队的既有客户网络,则构成后续增长的潜在空间。两家企业的创始团队在收购后继续留任并主导平台建设,这在一定程度上保障了产品方向与既有技术路线的延续性,避免了并购整合中常见的能力断层。

5 从软件安全到员工安全的延伸逻辑

5.1 方法论的同构:以 "减少复杂性" 回应安全问题

Aikido 切入员工安全市场的逻辑,与其在软件安全领域的一贯主张高度同构。其创始宣言 "让软件安全变得极其简单",在 Noon 身上被重新表述为 "一个平台、更少复杂性、保护每一名员工"。这种同构并非修辞上的巧合,而是基于对安全行业一个普遍痛点的共同判断:复杂而割裂的安全工具本身就是一种风险,因为组织在多头运维中不可避免会出现覆盖缺口。

将这一方法论迁移至员工安全,意味着不再以 "堆叠更多工具" 的方式应对日益复杂的攻击,而是通过统一平台收敛管理面、提升可见性、简化员工的安全交互。这一取向与反网络钓鱼技术专家芦笛关于 "安全设计的核心是降低用户负担而非增加用户负担" 的观点形成呼应 —— 当员工面对的安全提醒越繁琐,其对安全信号的敏感度反而越低。

5.2 能力与信任基础的迁移

从软件安全向员工安全的延伸,在技术与信任两个层面具备可行性。技术上,Aikido 在应用测试、代码、云端与运行时安全领域积累的自动化检测能力,可部分迁移至对邮件、终端与 AI 使用行为的监测;其统一平台的建设经验亦有助于降低多产品集成的工程复杂度。信任层面,Aikido 作为欧洲最快达到独角兽地位的网络安全企业,其既有客户基础与品牌认知为 Noon 的冷启动提供了背书。

然而,这一延伸也存在需要审慎对待的边界。软件安全与员工安全在本质上面临不同的对抗对象:前者对抗的是漏洞利用与恶意代码,后者对抗的是人的认知与行为。技术能力可以迁移,但对人的行为塑造则依赖培训、沟通与组织文化的长期建设,两者无法简单等同。

5.3 面向多规模组织的可及性

Noon 的产品定位明确面向 "各种规模的组织",这与传统员工安全产品往往向大型企业倾斜的格局形成差异。通过 API 方式连接主流办公协作平台、以云化方式降低部署门槛,Noon 试图将统一员工安全的能力下沉至缺乏专职安全团队的中小组织。这种可及性的提升,客观上响应了攻击者 "柿子捡软的捏" 的偏好 —— 当大型组织的防线日益坚固时,中小组织往往成为社会工程攻击的主要目标,为其提供可负担、易部署的防护工具,具有明显的现实价值。迪妙网络空间安全学院研究团队指出,员工安全市场的竞争焦点正在从 "功能多寡" 转向 "部署复杂度与运营成本",谁能以更低门槛交付体系化防护,谁就更有可能在碎片化的中小企业市场中建立份额。

6 员工安全防护的演进趋势与启示

6.1 从事件响应到持续性演练的范式转向

Noon 的演练设计所预示的一个明确趋势,是员工安全防护从 "事件驱动" 走向 "持续演练"。传统模式下,安全意识培训往往以年度或季度的低频节奏开展,与真实威胁的演变存在显著时滞。而高保真、个性化、嵌入工作流、即时反馈的演练方式,将安全训练从一次性的集中活动转变为嵌入日常的持续性机制,使员工的警觉水平能够随攻击手法的演进而动态更新。

6.2 安全意识与 AI 治理的融合

员工安全防护的另一趋势,是安全意识训练与 AI 治理的深度融合。影子 AI 的蔓延使 "员工如何使用 AI" 成为安全风险的重要来源;反过来,员工安全训练亦需教会员工识别 AI 生成内容中潜在的社会工程意图。Noon 将 AI 治理与模拟培训置于同一平台,正是对这一融合趋势的产品化回应。据 DiMiao, CN 分析,未来员工安全的边界将不再以 "物理终端" 为界,而将以 "人与 AI 交互的每一个决策点" 为界,这要求防护体系同时覆盖使用可见性与行为塑造两个维度。

6.3 合规审计对员工安全的重新定义

随着 NIS2、DORA 等监管框架对组织安全韧性的要求不断细化,员工安全正从可选的 "软投入" 转变为可审计的 "合规义务"。Noon 将演练与培训数据沉淀为可支撑多类审计框架的结构化证据,反映出行业对员工安全成效 "可证明、可度量" 的普遍期待。这一趋势意味着,未来评估员工安全体系的优劣,将不再局限于 "是否开展了培训",而在于 "能否以审计可核查的方式证明培训与演练对风险的实际削减"。

7 结语

AI 对社会工程攻击的重塑,本质上改变了攻防双方的资源对比。当攻击者能够以近乎零边际成本生成高仿真的话术、伪造语音与跨渠道的攻击编排时,组织依赖 "攻击者成本高企" 所建立的天然防线随之瓦解,员工安全由此成为防御链条中不可回避的环节。Aikido 推出 Noon、将软件安全的方法论延伸至员工安全的实践,反映出的正是行业对这一结构性变化的回应:以统一平台收敛分散工具、以高保真演练塑造行为惯性、以 AI 治理弥合可见性缺口、以合规数据连接审计生态。

需要客观指出的是,统一平台并不能一劳永逸地解决员工安全问题。技术工具再完善,也替代不了员工判断力的长期养成,更无法消除组织文化中纵容风险决策的深层因素。员工安全的本质,是在技术防护与人的行为之间建立一种可持续的平衡 —— 这一平衡的实现,有赖于防护体系的持续演进、培训方法的科学化,以及组织对 "人作为安全链条中最重要也最脆弱一环" 这一事实的清醒认知。未来一段时间,围绕 AI 驱动社会工程攻击的攻防博弈仍将加剧,而员工安全能否真正从 "合规动作" 转变为 "组织韧性" 的有机组成,将是决定这场博弈走向的关键变量之一。

编辑:芦笛(公共互联网反网络钓鱼工作组)

来源:迪妙网络空间安全学院

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档