什么是网络安全中的智能体 AI？

智能体 AI 系统通常设计有内置的人工监督，在自主性与控制之间取得平衡。

在 Microsoft 针对网络安全的智能体 AI 方法中，这被设计为一种协作模型，人类操作员可以监控和引导系统行为。

常见示例包括：

• 透明推理。 Microsoft 系统提供支持性上下文和理由以及建议，帮助分析师理解系统输出和决策路径。

• 审批和调整。 团队可以审阅、批准、拒绝或微调系统操作，结合反馈来持续改进结果。

• 可审计的控制。活动受企业安全控制（例如基于角色的访问、审核日志和工作流保障）的管理，以支持问责制和合规性要求。

由于一个称为“智能体循环”的过程，智能体 AI 可以动态响应变化的条件并根据上下文调整其行为 - 这是智能体为实现其目标而重复的一系列步骤。

感知 → 推理 → 规划 → 行动 → 学习

• 感知。系统从其环境中收集信息，包括日志、警报、用户活动、威胁情报以及来自连接工具和系统的数据。
• 推理。它分析信息，识别模式，评估风险，并确定数据在上下文中的含义。
• 规划。根据其目标，系统开发一系列行动以实现期望的结果。
• 行动。智能体通过与工具、系统或工作流交互来执行任务，例如隔离设备、打开票证、升级警报或收集额外证据。
• 学习。系统评估其行动的结果，并利用反馈、新数据和之前的结果来改进未来的决策和响应。

为了让智能体 AI 有效工作，团队还需要决定是使用单智能体系统还是多智能体系统。单智能体系统依赖一个智能体来管理任务和决策，这在工作流相对封闭且决策集中时效果很好。如果工作流复杂或需要不同类型的专业知识，组织通常会设置一个多智能体系统，该系统使用多个专门的 网络安全 AI 智能体共同朝着共享目标工作。

即使具有自主能力，人工监督仍然很重要。许多组织对敏感或高风险操作使用人机协同检查点和审批关卡，以帮助维持治理、问责制和运营控制。

跨核心维度进行比较时，传统自动化、生成式 AI 和智能体 AI 之间的差异会更加清晰。

不幸的是，企业和政府并不是唯一快速采用 AI 的实体。威胁行动者正在使用智能体系统来提高其网络攻击的速度和规模，这正在造成或加剧几个网络安全挑战，包括：

• 规模挑战。安全团队经常面临海量的警报量、不断增长的数据复杂性以及持续的分析师短缺。
• 速度挑战。 网络攻击者越来越多地自动化其操作，而许多防御者仍然依赖手动会审和事件响应流程。
• 可靠性和准确性挑战。 长期暴露于夜班和大量重复性任务会导致分析师疲劳和倦怠，从而增加不一致性和人为错误的风险。
• 弹性挑战。现代组织在包括云平台、终结点、身份、应用程序和第三方服务在内的混合环境中运营。这种不断扩大的攻击面增加了运营风险，并为网络攻击者创造了更多机会。

网络安全中的智能体 AI 帮助安全团队在变得过于复杂、快速移动和互联以至于无法完全手动进行安全运营 (SecOps) 的环境中更有效地运作。这与更广泛的智能体 AI 安全不同，后者侧重于保护 AI 系统本身。

智能体 AI 不是取代安全团队，而是作为网络安全运营的力量倍增器，带来以下优势：

• 更快的平均检测时间和响应时间 (MTTD/MTTR)。智能体 AI 可以快速调查警报、关联信号并协调响应行动，帮助团队缩短检测和响应时间。
• 减少分析师疲劳，提供更多时间用于高价值工作。通过处理重复性和耗时的任务，智能体 AI 有助于减少警报疲劳，并使分析师能够专注于更具战略性的调查和决策。
• 一致、可重复的会审和响应。智能体 AI 在事件中一致地应用工作流和流程，通过减少手动操作带来的差异，提高运行可靠性。
• 全天候覆盖和弹性扩展。与人类团队不同，智能体 AI 可以连续运行，并扩展以处理大量警报、事件和数据，而无需额外的人员配置。
• 改进的信噪比和优先级排序。智能体 AI 可分析大量上下文数据，以帮助识别最重要的威胁，减少不必要的警报并改进优先级排序。
• 更强的弹性和主动风险管理。智能体 AI 可以持续监视环境，识别潜在弱点，并支持主动安全措施，帮助组织降低风险并随着时间的推移提高运行弹性。

几个用例展示了人和智能体如何协同加强安全性。

安全团队经常面临的警报数量超过了他们手动调查的能力，因此优先级排序对于有效响应至关重要。

智能体的角色：

• 结合威胁情报、资产上下文和用户行为数据来丰富警报。
• 根据风险和置信度评分对事件进行优先级排序。
• 推荐调查或修正的后续步骤。

分析师的角色：

• 评审高优先级事件。
• 验证发现和升级决策。
• 处理复杂或敏感的调查。

安全团队依赖大量的威胁数据，这使得快速提取相关且可操作的见解变得困难。

智能体的角色：

• 从多个来源收集和总结威胁情报。
• 提供实时情境意识和快速报告。
• 跨环境关联威胁活动。

分析师的角色：

• 解释战略风险和威胁趋势。
• 验证情报的相关性和影响。
• 指导响应优先级和规划。

识别隐藏或新兴威胁需要在大型且复杂的数据集上进行持续分析。

智能体的角色：

• 生成搜寻假设并查询数据源。
• 迭代大型数据集以识别可疑活动。
• 对新兴威胁执行持续的背景搜寻。

分析师的角色：

• 验证发现并确定业务影响。
• 调查高级或有针对性的网络攻击活动。
• 完善搜寻策略和优先级。

响应安全事件需要在检测、调查和遏制活动之间进行快速协调。

智能体的角色：

• 自动化证据收集和事件文档编制。
• 起草时间线并汇总网络攻击活动。
• 在分析师批准后完成遏制操作。
• 帮助保护终结点并自动化漏洞修正工作流。

分析师的角色：

• 审批高风险响应操作。
• 监督修正和恢复工作。
• 协调沟通和事后审查。

组织必须在威胁行动者利用安全弱点之前识别并对其进行优先级排序。

智能体的角色：

• 根据风险级别和面临风险的资产价值，对漏洞进行优先级排序。
• 识别云、终结点和身份环境中的暴露情况。
• 推荐修正路径和缓解措施。

分析师的角色：

• 根据业务风险确定修正优先级。
• 验证推荐的操作。
• 协调修补和风险降低工作。

监视身份活动对于检测未经授权的访问和防止权限滥用至关重要。

智能体的角色：

• 检测异常的登录和访问模式。
• 识别有风险的权限和特权提升风险。
• 持续监视与身份相关的威胁。

身份和访问管理员的角色：

• 评审高风险访问事件。
• 审批策略或权限更改。
• 调查潜在的内部人员或帐户泄露活动。

安全团队必须持续构建和优化检测逻辑，以跟上不断演变的威胁。

智能体的角色：

• 编写和测试检测逻辑。
• 验证检测覆盖范围并识别差距。
• 建议调整改进以减少误报。

分析师的角色：

• 评审并审批检测更新。
• 使检测与组织优先级保持一致。
• 监督长期安全体系结构和策略。

保护敏感数据需要持续监视、分类和执行安全策略。

智能体的角色：

• 调查并优先处理数据丢失防护和内部风险。
• 实现跨环境的敏感数据风险发现和分析自动化。
• 识别策略违规和合规性差距。

数据安全管理员的角色：

• 评审高风险数据暴露事件。
• 确定合规性和治理要求。
• 监督修正和策略执行决策。

当智能体 AI 帮助团队分析数据、丰富警报并响应整个环境中的漏洞和威胁时，它能提供最大的价值。为此，组织使用 API 将安全智能体连接到他们已经使用的工具，例如 SOAR、扩展检测和响应 (XDR)、云安全态势管理 (CSPM)、身份和访问管理 (IAM)、安全信息和事件管理 (SIEM)、终结点检测和响应 (EDR) 工具和工单解决方案。这使智能体 AI 系统能够实时检索信息、协调工作流、触发操作并更新系统。

自动化可以为团队节省大量时间，但仍然需要保持控制和问责，以避免意外操作。安全团队通常要求分析师评审高风险决策，同时允许低风险操作具有更高的自主性。无论哪种情况，都应建立数据管理和访问控制，帮助确保 AI 仅与经批准的系统和数据交互。

在智能体 AI 方面取得最大成功的安全团队会实施度量工具，以评估他们实现目标的程度。这为他们提供了调整和优化实施所需的信息。

关键成功指标包括：

有助于确定安全运营有效性的数据包括：

• MTTD 和 MTTR。
• 自动会审或关闭的警报数。
• 误报率降低。
• 调查和解决事件所用时间。

这些指标让领导层深入了解智能体 AI 如何改变安全团队花费时间的方式：

• 从手动调查和会审中节省的分析师工时。
• 需要分析师干预的警报的升级率。
• 使用 AI 辅助工作流的新分析师的上手时间。
• 重复性或低价值任务的减少。

领导层还可通过以下指标查看安全改进如何影响整个组织：

• 每起安全事件成本。
• 跨环境、身份、终结点和云资源的覆盖范围
• 整体合规性态势和审核就绪情况。
• 运营风险暴露随时间的降低。

由于智能体系统在不同级别的自主性下运行，治理、透明度和控制对于安全部署至关重要。

• 影子智能体和未受管控的自动化。随着智能体系统的扩展，组织可能会无意中创建未管理或重复的智能体。如果没有适当的监督，这些“影子智能体”可能会引入不一致的行为或未经授权的操作。
• 幻觉和误报。与其他 AI 系统一样，智能体 AI 可能会得出错误的结论或误解数据，如果未经过验证，可能会导致不必要的警报或不正确的操作。
• 过度自动化和失去监督。过度依赖自动化会降低对决策过程的可见性，增加遗漏上下文或采取不当操作的风险。
• 数据隐私和访问控制。智能体 AI 系统需要访问敏感的安全数据，因此围绕权限、数据边界和最低权限访问的严格控制至关重要。
• 模型漂移和对抗性操纵。随着时间的推移，模型性能可能会随环境的变化而下降。此外，网络攻击者可能会尝试操纵输入或指标来影响智能体的行为。

• NIST AI 风险管理框架 (AI RMF) 为管理整个生命周期中的 AI 相关风险提供指导，包括治理、映射、度量和管理。
• ISO/IEC 42001 建立了 AI 管理系统的要求，侧重于 AI 系统的负责任开发和使用。
• 欧盟 AI 法案引入了基于风险的分类和合规性要求，适用于在欧盟境内运营或影响欧盟的 AI 系统。
• 行业特定法规是某些行业的独特要求，例如规范医疗保健数据保护的《Health Insurance Portability and Accountability Act》(HIPAA)、规范支付安全的《支付卡行业数据安全标准》(PCI DSS) 以及规范财务报告控制的《萨班斯-奥克斯利法案》(SOX)。

随着安全团队在其组织中部署和扩展智能体网络安全 AI，深思熟虑的策略有助于在保持团队之间的透明度、问责制和信任的同时改善安全结果。

组织通常分阶段引入智能体 AI，从低风险、辅助性的用例开始，然后再扩展到影响更大的操作。同样重要的是，要优先考虑安全智能体做出决策的透明度。

定义明确的防护措施有助于将智能体行为限制在安全和预期的边界内。为降低意外行为的风险，团队定义了网络安全 AI 智能体可自主完成哪些操作，为高影响或敏感操作建立审批工作流，并设定了安全智能体需要升级给分析师的阈值。

基于角色的访问控制 (RBAC) 通过限制智能体仅访问其特定功能所需的系统、数据和操作，有助于降低意外活动的风险。因此，标识团队对智能体应用与对人相同的最低权限原则。

为保持对智能体行为的可见性，安全团队会记录并审核所有智能体操作，包括决策、工具使用情况和结果。这有助于他们调查事件、满足合规性要求，并检测需要微调的实施问题。

如果分析师感到知情且可控，他们更有可能采用智能体 AI。组织可以通过确保智能体建议清晰易懂来建立信任。当他们使用 AI 来增强而不是取代分析师的决策时，也会取得更好的成功。

安全运营中心 (SOCs)、IT 和合规团队都在以安全、有效且符合组织风险承受能力的方式部署智能体 AI 方面发挥作用。跨学科团队帮助组织定义操作用例、管理集成和基础结构，并满足监管要求。

构建可跨安全域运行的完全智能体工作流是一个多阶段的过程。随着组织提高其运营成熟度，他们需要更强的治理和监督。

在最早期阶段，组织使用预定义的脚本和工作流来处理重复性的安全任务。

成功标志：

• 一致地完成常规任务，例如警报丰富或票证创建。
• 减少低复杂性工作流中的人工工作量。
• 依赖静态规则和剧本。

就绪指标：

• 稳定的 SIEM、SOAR 和票证集成。
• 明确定义且可重复的安全流程。
• 大量的重复性分析师任务。

此阶段，AI 通过提高可见性、摘要和决策能力来支持分析师，但不直接采取行动。

成功标志：

• 通过 AI 生成的摘要和见解加快调查速度。
• 改进对警报的理解和上下文丰富。
• 分析师仍然对决策和行动完全负责。

就绪指标：

• 成熟的数据管道和集中化的指标。
• 已建立的安全运营流程。
• 需要更快的会审和调查支持。

在此阶段，智能体 AI 开始在定义的防护措施内采取有限的操作，而人员保留对高风险操作的审批权。

成功标志：

• 自动会审、丰富和推荐的修正步骤。
• 减少分析师在重复性调查任务上的工作量。
• 对遏制和修正操作进行人机协同审批。

就绪指标：

• 对自动化系统进行强大的身份验证和访问控制。
• 明确定义的升级和审批工作流。
• 对数据质量和系统集成的信心。

在最成熟的阶段，智能体 AI 跨多个域运行，在既定边界内以最少的人工干预协调操作。这允许在整个组织中进行端到端的安全编排。

成功标志：

• 跨环境的持续、自主检测、调查和响应。
• 安全、IT、身份和合规系统之间的跨域协调。
• 人员专注于治理、策略和异常处理。

就绪指标：

• 成熟的 AI 和自动化治理框架。
• 跨系统的高置信度指标和数据完整性。
• 安全、IT 和合规团队之间强大的跨职能协调。
• 建立在可审计性和监督基础上的对自动化决策的信任。

智能体 AI 仍处于其采用曲线的早期阶段，但有几个明显的趋势正在塑造其在安全领域的演变方式。

• 自主红队测试。AI 智能体将越来越多地模拟对手行为，以持续测试防御措施、识别弱点并实时验证安全控制。
• 智能体循环。 用于安全运营的智能体 AI 将变得更加持续并能自我改进，智能体通过感知、行动并从结果中学习来优化检测和响应。
• AI 对 AI 的网络冲突。 随着网络攻击者也采用 AI，未来的网络交战可能会涉及防御性和进攻性智能体系统直接相互竞争。
• 预测性防御。智能体系统将通过分析模式、暴露数据和攻击者行为来预测威胁，从而在网络攻击发生之前防止它们，而不是对事件做出反应。
• 协作式 AI 智能体。多个专门的智能体将跨任务（例如检测、调查、修正和报告）进行协调，以创建更具可扩展性和弹性的安全工作流。
• 分析师角色的演变。分析师将从重复性的调查和响应任务转向更高价值的职责，例如智能体监督、策略设计和战略风险管理。

组织可以使用 Microsoft 由 AI 支持的统一安全平台在其数字资产中检测、调查和响应威胁。核心是智能 Microsoft Security Copilot 副驾驶®，这是一种自然语言、AI 辅助的安全解决方案，可帮助分析师对事件进行推理、总结威胁并跨环境协调响应操作。嵌入式智能体将这些功能扩展到 Microsoft 安全解决方案中。

安全团队经常因警报量、手动会审和碎片化调查而不堪重负。在 Microsoft Defender XDR 中，智能体 AI 帮助优先处理高风险问题、更快地调查事件并提高响应效率。

• 安全警报会审智能体 - 对警报进行优先级排序以减少噪音，并帮助分析师更快地专注于高风险事件。
• 安全分析助手智能体 -调查事件、关联信号并推荐响应操作以简化 SOC 工作流。
• 威胁搜寻智能体 - 跨环境搜索以发现隐藏威胁、可疑行为和新兴攻击模式。
• 动态威胁检测智能体 - 持续分析活动并调整检测逻辑，以识别不断演变的威胁和异常。
• 威胁智能简报智能体 - 将威胁情报汇总为可操作的见解，以便团队能够领先于新兴风险。

这些智能体共同帮助减少手动调查，并加快跨终结点、身份、电子邮件和云工作负载的事件响应速度。

在 Microsoft Sentinel 中，Security Copilot 帮助分析师从手动调查转向自然语言、提示本驱动的工作流。分析师可以生成 KQL、汇总事件、丰富实体、分析用户和设备，并通过逻辑应用和提示本自动化调查步骤。

自定义 Sentinel 事件报告智能体可以从事件中提取调查发现、实体、见解和修正步骤。提示本还可自动化用户分析，并将发现直接添加到事件活动日志中。

这些功能有助于减少手动查询编写，提高调查一致性，并通过自动化可重复的任务节省分析师时间。

在 Microsoft Purview 中，Security Copilot 帮助团队在数据安全状况管理、数据丢失防护、内部风险管理、电子数据展示、审核和通信合规性方面保护和治理数据。

• 数据安全会审智能体 - 对 DLP 和内部风险警报进行优先级排序，说明风险上下文，并以与数据所有者一起启动修正工作流。
• 数据安全状况智能体 - 发现敏感数据、识别隐藏风险和暴露的凭据、改进敏感度标签，并生成适合高管查看的摘要。

这些智能体帮助安全团队减少手动会审，更快地优先处理关键风险，并加强数据安全和合规性运营。

在 Microsoft Entra 中，Security Copilot 帮助团队调查风险用户、异常登录、特权访问和基于身份的威胁。Copilot 可以汇总身份上下文，解释风险信号，并推荐操作，例如会话撤销、访问审阅或条件访问策略调整。

功能包括身份和访问智能体以及 Microsoft Entra 智能体 ID，后者帮助组织通过生命周期管理、访问治理和身份保护控制来注册、管理和治理 AI 智能体身份。

这些功能可帮助组织降低身份风险，并在人类和 AI 身份之间应用零信任原则。

在 Microsoft Intune 中，Security Copilot 帮助终结点和 IT 团队了解设备合规性、配置漂移、漏洞暴露和修正需求。Copilot 可以汇总设备风险，解释不合规问题，推荐后续步骤，并帮助团队更快地响应。

终结点管理智能体帮助自动化合规性检查，调查设备问题，并指导托管终结点的修正。

这些功能有助于减少手动终结点调查，改进合规性运营，并更快地缩小配置差距。

智能 Microsoft Security Copilot 副驾驶® 和嵌入式智能体共同帮助组织从被动、手动的安全运营转向自适应、AI 辅助的防御，从而提高整个安全生命周期的保护、速度和规模。