这家工程公司的财务人员 Arup参加了视频通话 与包括公司首席财务官在内的几位同事通话时，他们每个人都是人工智能生成的深度伪造图像。通话结束后，攻击者骗取了25万美元。没有恶意软件，没有钓鱼链接，也没有利用漏洞：仅仅是人工智能，而且运用得足够逼真，利用了人们的信任。这起事件充分说明了为什么人工智能在网络安全领域已成为该领域的决定性话题。用于制造深度伪造图像的同一项技术，在其他行业中也被用于识别本可以阻止此类事件发生的异常情况。本人工智能安全指南涵盖了人工智能攻击和防御的方方面面，以及这对安全团队下一步应该关注的重点意味着什么。
用一段话概括人工智能在网络安全中的应用
网络安全中的人工智能是指在同一场战斗中，将机器学习、自然语言处理和大型语言模型应用于攻击的双方：发起攻击以及检测和阻止攻击。 攻击者利用人工智能生成极具说服力的钓鱼内容，克隆语音和面部，并以远超人类团队的速度探测系统。防御者则运用相同的底层技术（海量数据模式识别、自然语言理解、行为建模）来发现异常、过滤警报噪音，并在损害扩大之前做出响应。因此，这项技术在同一行业内真正实现了双重用途，这也是为什么网络安全领域的人工智能并非泾渭分明的“好”与“坏”之分。它是一种能力，谁能更快、更有效地运用它，谁就能占据优势。cis目前 ely 占据优势。
人工智能作为攻击载体
- 大规模人工智能生成的网络钓鱼。 过去，网络钓鱼攻击很容易通过一些特征识别：蹩脚的措辞、千篇一律的问候语、明显的伪造域名。但人工智能消除了大部分这些特征。根据…… 霍克斯亨特的 2026年网络钓鱼趋势报告人工智能生成的网络钓鱼攻击在所有已报告的网络钓鱼攻击中所占比例从2025年11月的4%跃升至2025年12月的56%，一个月内增长了14倍，并在2026年年中之前一直保持在40%左右。其有效性差距同样显著： 哈佛肯尼迪学院研究人员进行的人体受试者研究 研究发现，完全由人工智能自动生成的鱼叉式网络钓鱼邮件点击率高达 54%，与经验丰富的专家不相上下，远超对照组普通网络钓鱼邮件 12% 的点击率。人工智能并非只是撰写更多的网络钓鱼邮件，而是撰写真正有效的邮件。
- 针对信任而非基础设施的深度伪造技术。 此 Arup 案例 上述情况已不再是个例，而是一种普遍模式。人工智能生成的语音和视频足以以假乱真，足以在实时通话中冒充真正的企业高管，这使得社会工程攻击的目标从“诱骗他人点击”变成了“诱骗他人相信他们正在与首席财务官通话”。这对于安全意识培训而言是一个更难解决的根本性问题，因为欺骗发生在感知层面，而非技术层面。
- 更快的侦察速度和自适应恶意软件。 除了社会工程学之外，人工智能还缩短了“攻击者有了想法”到“攻击者有了可用的漏洞利用程序”之间的距离。大型语言模型可以加速针对目标公开代码和基础设施的漏洞研究，而自适应恶意软件如果检测到自身在沙箱环境中被分析，则可以在执行过程中改变自身行为——这种能力过去需要熟练的人工操作员实时监控。
- 机器速度的凭证攻击。 将泄露的凭证集输入模型，学习人们在自认为“聪明”地设置密码时实际使用的模式，可以将猜测验证转变为更接近预测的攻击方式。结合自动化凭证填充攻击，可以将原本缓慢且嘈杂的攻击方式压缩成快速且隐蔽的攻击。
人工智能作为防御工具
- 人类无法企及的异常检测规模。 人工智能的核心防御价值在于处理海量网络流量。 login 它会记录任何分析团队都无法手动审查的活动和系统日志，并标记出与既定基线的偏差。这使得它能够捕获尚未被识别的攻击特征，包括零日漏洞和内部人员滥用行为，而这些攻击通常不会触发基于规则的警报。
- 直接跳过警报队列，而不是增加警报队列。 这也是人工智能在网络安全领域能够带来最直接实际效益的地方，也是该行业仍有许多工作要做的地方。 Vectra AI 的 2026 年研究 调查发现，各组织平均每天收到 2,992 条安全警报，其中 63% 的警报未得到调查； 微软和 Omdia 的 安全运营中心现状：现在统一还是以后付费？ 报告 研究发现，46%的警报最终被证实为误报，42%的警报则完全未被调查。人工智能驱动的警报分类并非只是简单地增加一个检测器。如果运用得当，它可以将相关的警报关联起来，形成单一事件，对真正值得人工关注的警报进行评分，从而使分析人员能够将时间集中在代表真正风险的警报上，而不是手动关闭其余警报。
- 超越已知特征的恶意软件和行为分类。 同样的行为分析方法不仅可以标记异常网络活动，还可以用于文件和软件包：人工智能无需与已知恶意签名列表进行匹配，即可对安装时行为、不寻常的系统调用和混淆模式进行评分，从而在恶意软件出现时（而不是在对其进行指纹识别之后）就将其捕获。
- 自动化、封闭式响应。 仅仅检测到问题而不采取行动，只会拖延时间。人工智能驱动的响应可以隔离受影响的设备、阻止可疑流量并自动启动遏制措施，在最关键的情况下，将“我们发现问题”到“我们阻止了问题”之间的时间差从数小时缩短到数秒。
为什么同样的技巧会产生双向效果？
这份人工智能安全指南揭示了一个令人不安的事实：攻击者和防御者经常使用相同的底层技术，却用于截然相反的目的。用于编写逼真钓鱼邮件的自然语言建模技术，与用于读取可疑邮件并将其正确分类的技术是同一回事。恶意软件能够适应环境以绕过沙箱的模式识别技术，其架构与最初将恶意软件行为标记为异常的模式识别技术类似。双方都无法垄断这项技术，这意味着优势在于谁能更全面地将其集成到实际工作流程中，而不是谁拥有更先进的模型。
这种对称性也正是人工智能在网络安全领域引入自身防御风险的原因。如果调校不当，人工智能系统会产生误报，将真实信号掩盖在噪声中；不完整的训练数据会使其产生偏见，从而漏掉整类威胁；此外，人工智能系统本身也可能成为对抗性攻击的目标，攻击者会故意向检测模型输入误导性数据，以操纵其标记结果。然而，这些都不是避免在防御中使用人工智能的理由。相反，这些理由表明，我们需要在决策过程中保留人工参与，并将人工智能系统本身视为需要监控的对象，而不是部署一次就无限期信任的工具。
这份人工智能安全指南对您的团队意味着什么
五个关键步骤将真正从人工智能中获益于网络安全领域的团队与仅仅添加了另一个工具的团队区分开来：
- 不要等到“人工智能驱动”的攻击成为主流才开始进行防御性投资。 以上网络钓鱼数据表明，少数人使用的钓鱼手段可以多么迅速地演变为主流手段。应该在钓鱼活动激增之前就建立检测能力，而不是在激增期间才去构建。
- 首先让 AI 处理你的分诊队列，而不仅仅是你的周边区域。 对于大多数团队来说，最快、最可衡量的胜利是减少分析师必须手动清除的误报数量，而不是增加新的检测层。
- 将深度伪造和语音克隆的风险视为流程问题，而不是技术问题。 目前还没有任何检测工具能够完全弥补奥雅纳式的安全漏洞。任何涉及资金流动或凭证变更的请求都需要进行带外验证。
- 将同样的AI驱动的行为思维扩展到代码和 pipeline不仅仅是网络流量。 攻击者越来越多地直接针对软件供应链（恶意软件包、虚假依赖项、未经审查的代理指令），这是一个具有自身动态的风险类别，我们在《人工智能供应链安全指南》中对此进行了深入介绍。
- 让人类对人工智能的决定负责。 自动响应之所以有价值，正是因为它速度快，所以当它出错时，也需要明确的升级路径。
人工智能在网络安全领域的发展方向
未来几年将出现两大转变。首先，攻击者不再依赖数量众多但手段粗糙的攻击方式，而是将攻击策略集中于数量更少但更具说服力的手段：人工智能生成的钓鱼和深度伪造技术并非扩大攻击范围，而是更精准地锁定目标。其次，防御方正从“检测并通知人工”转向“在出现工单之前进行检测、评分和采取行动”。正是这种转变缩小了大多数安全运营中心 (SOC) 每天面临的 2,992 条警报与最终真正得到重视的警报数量之间的差距。那些走在前列的组织，正是将这种转变应用于人工智能已渗透到其环境的各个方面，包括开发人员交付的代码，而不仅仅是网络边界上的流量。
Xygeni的观点：人工智能安全必须涵盖代码，而不仅仅是收件箱。
大多数人工智能在网络安全领域的应用仅限于安全运营中心（SOC）：网络钓鱼、恶意软件、网络异常。这固然必要，但并不全面，因为越来越多的人工智能驱动风险存在于软件开发生命周期本身，而SOC工具无法覆盖到这些环节。
Xygeni 的 核心人工智能 将本指南中描述的基于行为和异常的思维方式应用于应用程序安全，具体来说：关联现有扫描器（而不仅仅是扫描器）的发现结果。 Xygeni 的 自行评估），对实际可利用的风险进行评分，而不是用大量的原始警报信息淹没团队，解释特定风险的重要性，并生成补救措施。 pull request 而不是另一个待处理工单。 开发人工智能 将同样的防御姿态扩展到攻击面的最新部分：人工智能编码代理和助手，验证技能文件和代理指令，并在代理执行任何操作之前阻止恶意安装。其目标与本指南在安全运营中心 (SOC) 层面所倡导的目标相同，只是应用到了…… pipeline将 AI 在数量和速度上的优势转化为防守方的优势，而不是进攻方的优势。
免费开始。 Sign up with GitHub使用 GitLab 或 Google，即可每月免费查看多达 25 个存储库和 50 次 AI 扫描，无需信用卡。
常见问题解答
什么是网络安全领域的人工智能？
网络安全领域的人工智能是指在安全攻防两端运用机器学习、自然语言处理和大型语言模型。攻击者利用这些技术生成逼真的网络钓鱼内容、深度伪造视频和自适应恶意软件；防御者则利用相同的底层技术进行异常检测、警报分级和自动响应。
人工智能作为攻击工具更危险，还是作为防御工具更有用？
双方都不具备持久优势，因为两者都建立在相同的基础能力之上。风险更大的组织是那些尚未以与攻击者进攻速度相同的速度将人工智能应用于防御的组织，而不是那些面临无法弥合的技术差距的组织。
人工智能能否完全取代安全运营中心（SOC）中的人类分析师？
不，而且尝试这样做的风险（模型调优不佳导致的误报、训练数据不完整造成的偏差以及对抗性操纵检测系统本身）恰恰说明了人工监督的必要性。人工智能的真正价值在于清理积压的工作，使分析人员能够专注于那些仍然需要人工判断的决策。
AI 驱动的攻击风险对软件开发团队有何不同？
除了网络钓鱼和深度伪造之外，开发团队还面临着人工智能特有的风险。 SDLC 人工智能本身就存在这样的问题：人工智能编码代理会安装虚假或恶意依赖项，技能文件中存在未经审查的代理指令，以及人工智能生成的代码会复制硬编码的密钥。关于人工智能在网络安全领域的这一方面，我们将在我们的文章中进行更深入的探讨。 人工智能供应链安全指南。
