什麼是網路安全性中的代理式 AI?

代理式 AI 系統通常內建人為監督，以平衡自主性與控制力。

在 Microsoft 的網路安全性代理式 AI 方法中，這項設計採用協作模式，讓人員可監控並引導系統行為。

常見範例包括:

• 透明的推理。 Microsoft 系統會隨附支援內容和理由，以及建議，協助分析員了解系統輸出與決策路徑。

• 核准與調整。 Teams 可以審查、核准、拒絕或微調系統動作，並納入回饋以持續改善結果。

• 可稽核控制措施。活動會受到企業安全性控制措施管理，例如角色型存取、稽核記錄和工作流程防護措施，以支援問責與合規性需求。

代理式 AI 能動態回應不斷變化的條件，並根據內容調整行為，這是因為它採用一種稱為代理式迴圈的程序——也就是代理程式會重複執行步驟，直到達成目標為止。

感知 → 推理 → 規劃 → 採取動作 → 學習

• 感知。系統會從其環境收集資訊，包括記錄、警示、使用者活動、 威脅情報，以及來自已連接工具和系統的資料。
• 推理。它會分析資訊、找出模式、評估風險，並判斷資料在該內容下的意義。
• 規劃。系統會根據其目標，制定一連串動作來達成所要的結果。
• 採取動作。代理程式會透過與工具、系統或工作流程互動，執行各種工作，例如隔離裝置、開啟支援票證、提升警示層級，或收集更多證據。
• 學習。系統會評估其動作結果，並使用回饋、新資料與先前結果，來改善未來的決策與回應。

要讓代理式 AI 有效運作，團隊還需要決定要使用單一代理程式系統，還是多代理程式系統。單一代理程式系統依賴一個代理程式來管理工作和決策；當工作流程相對封閉，且決策集中時，這種方式很有效。如果工作流程複雜，或需要不同類型的專業知識，組織通常會建立多代理程式系統，使用多個專精於 網路安全性 的 AI 代理程式協同作業，共同達成一個目標。

即使具備自主能力，人工監督仍然很重要。許多組織會在敏感性高或風險較大的作業流程中加入人工審核節點與核准機制，以確保維持治理、責任明確，以及對營運流程的有效掌控。

將傳統自動化、生成式 AI 和代理式 AI 在核心面向上進行比較時，差異會更清楚。

遺憾的是，企業與政府並非唯一正在快速採用 AI 的群體。威脅行為者正使用代理式系統來提高網路攻擊的速度和規模，這正在造成或加劇多項網路安全性挑戰，包括:

• 規模調整 挑戰。安全性團隊經常面臨大量警示、日益複雜的資料，以及持續的人力分析員短缺。
• 速度 挑戰。 網路攻擊者越來越常自動化其作業，但許多防禦者仍依賴手動分類和 事件回應 流程。
• 可靠性與準確性 挑戰。 長期輪值夜班，加上大量重複性工作，可能導致分析員疲勞和職業倦怠，增加不一致和人為錯誤的風險。
• 復原能力 挑戰。現代組織跨越混合式環境運作，這些環境包含雲端平台、端點、身分識別、應用程式和第三方服務。這個不斷擴大的受攻擊面會提高營運風險，也為網路攻擊者創造更多機會。

在網路安全性中，代理式 AI 可協助安全性團隊在日益複雜、變化快速且彼此互連的環境中更有效地運作，這些環境已經超出完全手動 安全性作業 的負荷。這與更廣義的 代理式 AI 安全性 不同，後者著重於保護 AI 系統本身。

代理式 AI 並非取代安全性團隊，而是作為網路安全性作業中的倍增器，帶來以下優點:

• 更快的偵測與回應平均時間 (MTTD/MTTR)。代理式 AI 可以快速調查警示、關聯訊號並協調回應動作，協助團隊縮短偵測與回應時間。
• 降低分析員疲勞，並有更多時間投入高價值工作。透過處理重複且耗時的工作，代理式 AI 有助於降低警示疲勞，並讓分析員能專注於更具策略性的調查和決策。
• 一致、可重複的分級與回應。代理式 AI 會在各種事件中一致地套用工作流程與程序，藉由減少手動作業造成的差異，提升營運可靠性。
• 全天候 涵蓋範圍與彈性規模調整。不同於人工團隊，代理式 AI 可以持續運作，並調整規模以處理大量警示、事件和資料，而不需要額外人力。
• 提升訊號雜訊比與優先順序判定。代理式 AI 可以分析大量內容相關資料，協助找出最重要的威脅，減少不必要的警示並改善優先順序判定。
• 更強的韌性與主動式風險管理。代理式 AI 可以持續監控環境、找出潛在弱點，並支援主動式安全性措施，協助組織隨著時間降低風險並提升營運韌性。

有幾個使用案例可展現人員與代理程式如何協同合作，以強化安全性。

安全性團隊經常面臨超出人工調查能力的大量警示，因此必須進行優先排序，才能有效回應各種安全性事件。

代理程式的角色:

• 使用威脅情報、資產內容和使用者行為資料來豐富警示。
• 根據風險和信賴分數對事件進行優先排序。
• 建議調查或補救的後續步驟。

分析員的角色:

• 審查高優先順序事件。
• 驗證發現與向上呈報決策。
• 處理複雜或敏感性調查。

安全性團隊依賴大量威脅資料，因此很難快速擷取相關且可採取行動的深入解析。

代理程式的角色:

• 從多個來源收集並摘要威脅情報。
• 提供即時態勢感知和快速報告。
• 跨環境關聯威脅活動。

分析員的角色:

• 解讀策略風險與威脅趨勢。
• 驗證情報的相關性與影響。
• 引導回應優先順序與規劃。

識別隱藏或新興威脅需要在大型且複雜的資料集上進行持續分析。

代理程式的角色:

• 產生搜捕假設並查詢資料來源。
• 在大型資料集間反覆比對，以找出可疑活動。
• 持續在背景中搜捕新興威脅。

分析員的角色:

• 驗證調查結果並判定業務影響。
• 調查進階或針對式網路攻擊活動。
• 精進搜捕策略與優先順序。

回應安全性事件需要在偵測、調查和遏止活動之間快速協調。

代理程式的角色:

• 自動收集證據並記錄事件文件。
• 草擬時間軸並摘要網路攻擊活動。
• 在分析員核准後完成遏止動作。
• 協助保護端點並自動化弱點補救工作流程。

分析員的角色:

• 核准高風險回應動作。
• 監督修復與復原工作。
• 協調通訊與事件後審查。

組織必須先識別並排定安全性弱點的優先順序，避免遭到威脅行為者利用。

代理程式的角色:

• 根據風險等級和面臨風險的資產價值，排定弱點的優先順序。
• 識別雲端、端點和身分識別環境中的暴露風險。
• 建議補救路徑和緩解動作。

分析員的角色:

• 根據商務風險決定補救優先順序。
• 驗證建議的動作。
• 協調修補與風險降低工作。

監控身分識別活動對於偵測未經授權的存取和防止權限濫用至關重要。

代理程式的角色:

• 偵測異常的登入與存取模式。
• 識別高風險權限和權限提升風險。
• 持續監控身分識別相關威脅。

身分識別與存取管理員的角色:

• 審查高風險存取事件。
• 核准原則或權限變更。
• 調查潛在的內部人員或帳戶遭入侵活動。

安全性團隊必須持續建立和精進偵測邏輯，才能跟上不斷演變的威脅。

代理程式的角色:

• 撰寫並測試偵測邏輯。
• 驗證偵測涵蓋範圍並找出缺口。
• 建議調整改善，以減少誤判。

分析員的角色:

• 審查並核准偵測更新。
• 讓偵測與組織優先事項保持一致。
• 監督長期安全性架構與策略。

保護敏感性資料需要持續監控、分類和強制執行安全性原則。

代理程式的角色:

• 調查並排定資料外洩防護和內部風險的優先順序。
• 自動化跨環境的敏感性資料風險探索和分析。
• 識別原則違規與合規性缺口。

資料安全性管理員的角色:

• 審查高風險資料外洩事件。
• 判定合規性與治理需求。
• 負責補救與原則強制執行決策。

網路安全性中的代理式 AI 在協助團隊分析資料、豐富警示，以及回應整個環境中的弱點和威脅時，最能發揮價值。為做到這一點，組織會使用 API，將安全性代理程式連接到他們已在使用的工具，例如 SOAR、延伸偵測及回應 (XDR)、雲端安全性態勢管理 (CSPM)、身分識別與存取權管理 (IAM)、安全性資訊與事件管理 (SIEM)、端點偵測及回應 (EDR) 工具，以及票證解決方案。這讓代理式 AI 系統可擷取資訊、協調工作流程、觸發動作，並即時更新系統。

自動化可為團隊節省大量時間，但為避免非預期動作，仍然必須維持控制與問責。安全性團隊通常會要求分析員審查高風險決策，同時允許低風險動作擁有更高的自主性。在這兩種情況下，建立 資料控管 和存取控制很重要，以協助確保 AI 只會與已核准的系統和資料互動。

在代理式 AI 方面最成功的安全性團隊，會先建立衡量工具來評估自己達成目標的程度。這可讓他們取得所需資訊，以調整並精進實作。

關鍵成功指標包括:

有助於判斷安全性作業成效的資料包括:

• MTTD 與 MTTR。
• 自動分級或關閉的警示數量。
• 誤判率降低。
• 調查並解決事件所需的時間。

這些指標可讓主管了解代理式 AI 如何改變安全性團隊運用時間的方式:

• 從手動調查與分類中釋放的分析員時數。
• 需要分析員介入的警示向上呈報率。
• 使用 AI 輔助工作流程的新分析員上線時間。
• 減少重複性或低價值工作。

主管也可以透過以下指標了解安全性改善對整個組織的影響:

• 每起安全性事件的成本。
• 涵蓋環境、身分識別、端點和雲端資源的範圍
• 整體合規性態勢與稽核就緒程度。
• 隨時間降低的營運風險暴露。

由於代理式系統的自主程度不一，治理、透明度和控制對於安全部署而言非常重要。

• 陰影代理程式與非受控自動化。隨著代理式系統規模擴大，組織可能會無意中建立非受控或重複的代理程式。如果沒有妥善監督，這些「陰影代理程式」可能會導致行為不一致或未經授權的動作。
• 幻覺與誤判。和其他 AI 系統一樣，代理式 AI 可能會產生不正確的結論或誤解資料，若未加以驗證，可能導致不必要的警示或錯誤動作。
• 過度自動化與監督流失。過度依賴自動化會降低對決策流程的可見度，增加遺漏背景資訊或執行不當動作的風險。
• 資料隱私權與存取控制。代理式 AI 系統需要存取敏感性安全性資料，因此必須對權限、資料邊界和最低權限存取實作嚴格控管。
• 模型漂移與對抗性操作。隨著環境變化，模型效能可能會隨時間下降。此外，網路攻擊者可能嘗試操縱輸入或指標，影響代理程式行為。

• NIST AI 風險管理架構 (AI RMF) 提供管理 AI 相關風險的指引，涵蓋整個生命週期，包括治理、對應、衡量和管理。
• ISO/IEC 42001 針對 AI 管理系統建立要求，重點在於 AI 系統的負責任開發與使用。
• 歐盟 AI 法案 針對在歐盟境內營運或對歐盟造成影響的 AI 系統，導入以風險為基礎的分類和合規性要求。
• 特定產業法規 是某些產業的特定要求，例如適用於醫療保健資料保護的健康保險流通與責任法案 (HIPAA)、適用於付款安全的支付卡產業資料安全標準 (PCI DSS)，以及適用於財務報表控制的沙賓法案 (SOX)。

隨著安全性團隊在整個組織中部署並調整 網路安全性的代理式 AI 的規模，周備的策略可在維持團隊間透明度、問責與信任的同時，提升安全性成果。

組織通常會分階段導入代理式 AI；首先是低風險、輔助性的使用案例，再擴展到影響更大的動作。在安全性代理程是如何做出決策方面，強調透明度也很重要。

明確定義的防護界限有助於將代理程式行為限制在安全且可預期的範圍內。為降低非預期行為的風險，團隊會定義網路安全性 AI 代理程式可自主完成的動作，為高影響性或敏感性作業建立核准工作流程，並設定安全性代理程式需要向上呈報給分析員的時機門檻。

角色型存取控制 (RBAC) 會限制代理程式只能存取其特定功能所需的系統、資料和動作，有助於降低非預期活動的風險。因此，身分識別團隊會對代理程式套用與對人員相同的最低權限原則。

為維持對代理程式行為的可見度，安全性團隊會記錄並稽核所有代理程式動作，包括決策、工具使用和結果。這可協助他們調查事件、符合合規性要求，並偵測需要微調的實作問題。

如果分析員能充分掌握相關資訊，並對系統保持控制權，就更有可能接受並採用代理式 AI。組織可以透過確保代理程式建議清楚且容易理解以建立信任。當他們使用 AI 來強化而非取代分析員的決策時，也會更容易成功。

安全性作業中心 (SOC)、IT 和合規性團隊都在安全、有效且符合組織風險承受度的情況下部署代理式 AI 中扮演角色。跨領域團隊可協助組織定義營運使用案例、管理整合與基礎結構，並符合法規要求。

建立可跨安全性領域運作的完整代理式工作流程，是一個多階段流程。隨著組織提升營運成熟度，也需要更強健的治理與監督。

在最早期階段，組織會使用預先定義的指令碼和工作流程來處理重複性的安全性工作。

成功的判斷標準:

• 可持續完成例行工作，例如警示補充資訊或建立票證。
• 減少低複雜度工作流程中的手動工作量。
• 依賴靜態規則與教戰手冊。

就緒程度指標:

• SIEM、SOAR 與票證系統整合穩定。
• 明確定義且可重複的安全性流程。
• 大量重複性的分析師工作。

在這個階段，AI 會透過提升可見度、摘要和決策能力來支援分析員，但不會直接採取動作。

成功的判斷標準:

• 透過 AI 產生的摘要和深入解析，以更快完成調查。
• 提升對警示的理解與背景資訊補充。
• 分析員仍然需對決策和動作負完全責任。

就緒程度指標:

• 成熟的資料管線與集中式指標。
• 已建立的安全性作業流程。
• 需要更快的分類與調查支援。

在這裡，代理式 AI 開始在定義好的防護界限內執行有限動作，而人員仍保有高風險作業的核准權。

成功的判斷標準:

• 自動化的分類、補充資訊，以及建議的修正步驟。
• 減少分析員在重複調查工作上的負擔。
• 在執行遏制與修復作業前，必須經過人工審核與核准。

就緒程度指標:

• 為自動化系統建立完善的身分識別與存取控制。
• 明確定義的向上呈報與核准工作流程。
• 對資料品質和系統整合的信心。

在最成熟的階段，代理式 AI 會在多個領域中運作，並在既有邊界內，以最少的分析員介入協調動作。這可讓整個組織實現端對端的安全性協調。

成功的判斷標準:

• 跨環境持續、自主地偵測、調查與回應。
• 安全性、IT、身分識別與合規性系統之間的跨領域協調。
• 人員專注於治理、策略與例外處理。

就緒程度指標:

• 適用於 AI 與自動化的成熟治理架構。
• 跨系統的高信心指標與資料完整性。
• 安全性、IT 與合規性團隊之間高度一致的跨職能共同作業。
• 對自動化決策的信任已建立，且具備稽核能力與監督機制。

代理式 AI 目前仍處於採用初期，但有幾項明確趨勢正在塑造其在安全性領域的發展。

• 自主式紅隊測試。AI 代理程式將越來越常模擬攻擊者行為，持續測試防禦、識別弱點，並即時驗證安全性控制措施。
• 代理程式迴圈。 用於安全性作業的代理式 AI 將朝向更持續運作且具備自我優化能力的方向發展；AI 代理程式能夠感知環境、採取行動，並從執行結果中持續學習，以不斷精進威脅偵測與事件回應能力。
• AI 對 AI 的網路衝突。 當網路攻擊者也採用 AI 時，未來的網路交戰可能會讓防禦性與攻擊性代理式 系統直接對抗。
• 預測式防禦。代理式系統不會只被動回應事件，而是會分析模式、暴露資料與攻擊者行為，以預先掌握威脅，在網路攻擊發生前加以防範。
• 共同作業 AI 代理程式。多個專門的代理程式會在偵測、調查、修正與報告等工作之間協同合作，建立更可調整且更具韌性的安全性工作流程。
• 分析員的角色演進。分析員將不再需要把時間花在重複的調查與回應工作上，而是可轉向更高價值的職責，例如代理程式監督、原則設計與策略性風險管理。

組織可以透過 Microsoft 提供的整合式、AI 支援的安全性平台，在整個數位資產中偵測、調查並回應威脅。核心是 Microsoft Security Copilot，這是一項以自然語言驅動、AI 輔助的安全性解決方案，可讓分析員針對事件進行推理、摘要威脅，並在各環境中協調回應動作。內嵌的代理程式可將這些功能延伸到 Microsoft 安全性解決方案中。

安全性團隊經常因大量警示、繁瑣的人工分流，以及零散且缺乏整合的調查流程而不堪負荷。在 Microsoft Defender 全面偵測回應中，代理式 AI 可協助排定高風險問題的優先順序、更快調查事件，並提升回應效率。

• 安全性警示分級 Agent — 排定警示優先順序，以降低雜訊，並協助分析員更快速地聚焦在高風險事件上。
• 安全性 Analyst Agent — 調查事件、關聯訊號，並建議回應動作，以簡化 SOC 工作流程。
• 威脅搜捕 Agent — 跨環境搜尋，找出隱藏威脅、可疑行為與新興攻擊模式。
• 動態威脅偵測 Agent — 持續分析活動，並調整偵測邏輯，以辨識演變中的威脅與異常。
• 威脅情報簡報 Agent — 將威脅情報摘要為可採取行動的深入解析，協助團隊搶先掌握新興風險。

將這些代理程式搭配使用，可協助減少手動調查，並加快跨端點、身分識別、電子郵件和雲端工作負載的事件回應。

在 Microsoft Sentinel 中，Security Copilot 可協助分析員從手動調查轉向以自然語言與提示集為基礎的工作流程。分析員可以透過 Logic Apps 和提示集產生 KQL、摘要事件、補充實體資訊、分析使用者與裝置，並自動化調查步驟。

自訂的 Sentinel 事件報告 Agent 可以從事件中擷取調查發現、實體、深入解析與修正步驟。提示集也可以自動化使用者分析，並將發現直接新增至事件活動記錄。

這些功能可減少手動撰寫查詢、提升調查一致性，並透過自動化可重複的工作節省分析員時間。

在 Microsoft Purview 中，Security Copilot 可協助團隊保護與治理資料，涵蓋資料安全性態勢管理、資料外洩防護、內部風險管理、電子文件探索、稽核與通訊合規性。

• 資料安全性分級 Agent — 排定 DLP 與內部風險警示的優先順序，說明風險情境，並可與資料擁有者一同啟動修正工作流程。
• 資料安全性態勢 Agent — 找出敏感性資料、識別隱藏風險與暴露的認證，改善敏感度標籤，並產生可供高階主管使用的摘要。

這些代理程式可協助安全性團隊減少手動分級、更快排定關鍵風險優先順序，並強化資料安全性與合規性作業。

在 Microsoft Entra 中，Security Copilot 可協助團隊調查高風險使用者、異常登入、特殊權限存取與身分識別型威脅。Copilot 可以摘要身分識別內容、說明風險訊號，並建議動作 (如工作階段撤銷、存取審查或條件式存取原則調整)。

功能包括身分識別與存取權 Agent，以及 Microsoft Entra Agent ID，這有助於組織透過生命週期管理、存取治理與身分識別保護控制，註冊、管理並控管 AI 代理程式身分識別。

這些功能可協助組織降低身分識別風險，並將零信任原則套用到人類與 AI 身分識別。

在 Microsoft Intune 中，Security Copilot 可協助端點與 IT 團隊了解裝置合規性、組態漂移、弱點暴露風險與補救需求。Copilot 可以摘要裝置風險、說明不合規問題、建議後續步驟，並協助團隊更快回應。

端點管理 agent 可協助自動化合規性檢查、調查裝置問題，並引導受控端點上的補救作業。

這些功能可協助減少手動端點調查、改善合規性作業，並更快填補組態缺口。

Microsoft Security Copilot 與內嵌的代理程式可共同協助組織將安全性營運從被動、仰賴人工的模式，轉型為具備適應能力、由 AI 輔助的防禦模式，進而在整個安全性生命週期中提升防護能力、回應速度與營運規模。