安全性和韌性的創新

當網路安全性產業面臨典範轉移時，AI 提供提高復原能力並提升防禦者技巧、速度和知識的可能性。

「雖然人類的創意與專業知識始終是網路防禦中珍貴且不可取代的一環，但技術有潛力結合現代 AI 的技能、處理速度與快速學習能力，進一步放大這些獨特優勢。」

－ Bret Arsenault，Microsoft 資訊安全長

以突破性創新回應挑戰

面對日益複雜的網路生態系統，人工智慧（AI）有望透過強化防禦者的技能、速度與知識，重塑安全態勢。

AI 也能帶來全新能力，例如運用大型語言模型（LLM）從複雜資料中生成自然語言洞察與建議，並為分析師創造新的學習機會。

在 2023 Microsoft 數位防禦報告中，我們探討正在改變資安的多項 AI 突破、AI 與 LLM 所帶來的風險，以及如何確保它們被用來打造更安全、更具韌性的數位未來。

LLM 有潛力大幅強化網路防禦。Microsoft 的研究人員與應用科學家正積極探索並實驗以下及其他情境：

威脅情報與分析

LLM 能協助網路防禦者蒐集並分析資料，找出網路威脅中的模式與趨勢。它們也能整合來自不同來源的資訊，為威脅情報補充脈絡，並執行逆向工程、惡意軟體分析等技術工作。
安全性事件回應和復原

LLM 能協助網路防禦者支援並自動化資安事件回應與復原作業，包括事件分級、封鎖、清除、分析與復原。它們可以摘要事件、產生回應自動化指令碼、協調團隊，並記錄與傳達事件細節及處置行動。LLM 也能協助我們從事件中學習，並提供預防與緩解的改善建議。
安全監控與偵測

LLM 可以跨網路、系統、應用程式與資料監控並偵測資安事件。它們可以分析資料、產生優先排序的警示，並提供有助於調查與回應的情境資訊。LLM 也能分析多雲環境的態勢，建立完整的資源地圖、評估潛在影響，並提供風險緩解建議。它們可透過分析電子郵件內容，辨識可能代表網路釣魚嘗試的文字模式、異常與可疑語句，協助偵測釣魚攻擊。

安全性測試和驗證

LLM 可以自動化及增強安全性測試和驗證，包括滲透測試、弱點掃描、程式碼分析和組態稽核。它們會產生並執行測試案例、評估並回報結果，並提供補救建議。LLM 可以建立特定案例的自訂應用程式和工具、自動化重複的工作，以及處理需要手動介入的偶爾或臨時工作。
安全性認知和教育

LLM 可協助網路防禦者建立吸引人的個人化內容與案例，以提升安全性認知與教育。其可以評估目標受眾的安全性知識與技能等級、提供意見反應和指引，以及產生實際且可調整的網路練習和模擬，以用於訓練和測試。
安全性治理、風險與合規性

LLM 可協助自動化安全性治理、風險和合規性活動，包括原則開發和強制執行、風險評估/管理、稽核和保證，以及合規性和報告。其可以將活動與商業目標保持一致，並提供安全性計量和儀表板以用於績效測量。其也可以識別差距和問題，並提供建議以改善組織的安全性態勢、優先處理弱點，以及識別補救建議。