This is the Trace Id: b727f3935d8ebfae3b1e81b83fd24bf8
Преминаване към основното съдържание Microsoft Defender Microsoft Entra Microsoft Intune Project Perception Microsoft Purview Microsoft Sentinel SIEM Вижте всички продукти Киберсигурност с подкрепа на ИИ Защита в облака Защита и управление на данните Самоличност и мрежов достъп Защита за ИИ Малки и средни фирми Интегрирани операции по сигурността Zero Trust Цени Услуги Партньори Защо Microsoft Security Осведомяване относно киберсигурността Разкази на клиенти Защита 101 Пробни версии на продукти Признание в отрасъла Microsoft Security Insider Отчет за цифровата защита на Microsoft Център за реагиране за защита Блог за Microsoft Security Събития, свързани със защитата, на Microsoft Техническа общност на Microsoft Документация Библиотека за техническо съдържание Обучение и сертификации Програма за съответствие за Microsoft Cloud Център за сигурност на Microsoft Service Trust Portal Microsoft Инициатива за защитено бъдеще Център за бизнес решения Свържете се с отдела за продажби Започнете безплатно изпробване Microsoft Security Azure Dynamics 365 Microsoft 365 Microsoft Teams Windows 365 ИИ на Microsoft Azure Space Смесена реалност Microsoft HoloLens Microsoft Viva Квантови изчисления Образование Автомобилен Финансови услуги Държавни организации Здравеопазване Производство Търговия на дребно Намерете партньор Станете партньор Мрежа от партньори Microsoft Marketplace Софтуерни фирми Блог Реклами на Microsoft Център за разработчици Документация Събития Лицензиране Microsoft Learn Microsoft Research Преглед на картата на сайта

Какво е агентният ИИ в киберсигурността?

Агентният ИИ в киберсигурността е използването на автономни агенти за откриване, разследване и реагиране на заплахи с минимална човешка намеса.
Отчет за дигитална защита на Microsoft за 2024 г.: Основни принципи и нови измерения в киберсигурността

Агентът за киберсигурност е възможност, задвижвана от ИИ, създадена да подпомага автономно екипите по сигурността. Агентният ИИ в киберсигурността се отнася конкретно до това как тези агенти се използват за откриване, разследване и реагиране на киберзаплахи.

Тъй като злонамерените участници все по-често използват автоматизация, за да ускорят кибератаките си, екипите по сигурността внедряват агенти в различни сценарии, за да им помогнат да реагират по-бързо и да изпреварват възникващите рискове.

Ключови изводи

  • Агентният ИИ в киберсигурността самостоятелно преследва цели, като използва разсъждение, планиране и непрекъснато обучение за изпълнение на многoстъпкови задачи.
  • Екипите по сигурността възприемат агентния ИИ, за да помогнат за справяне с нарастващите предизвикателства пред киберсигурността, включително огромен обем от предупреждения, по-бързи атаки, подпомагани от ИИ, умора на анализаторите и сложни хибридни среди.
  • Агентният ИИ може да подобри операциите по сигурността, като ускори откриването и реагирането на заплахи, намали повтарящата се работа на анализаторите, подобри приоритизирането и осигури по-последователно и мащабируемо покритие на сигурността.
  • Агентите с ИИ са проектирани да подпомагат специализирани работни потоци в критични области като фишинг, защита на данните и управление на самоличности.
  • Организациите използват предпазни ограничения, работни потоци за одобрение, контроли за достъп въз основа на роли и одитиране, за да помогнат да се гарантира, че агентният ИИ работи безопасно, прозрачно и в рамките на определени граници.
  • Повечето организации възприемат агентния ИИ постепенно, като започват с работните потоци, в които е нужна допълнителна капацитетност на екипа. Екипите преминават от скриптова автоматизация и анализ, подпомаган от ИИ, към по-автономни работни потоци, когато управлението и оперативната зрялост се подобрят.

Какво прави ИИ агентен?

Агентният ИИ се различава от традиционните модели за машинно обучение, генеративния ИИ и инструментите за автоматизация, защото самостоятелно преследва цели и се адаптира към променящи се условия. Това е различно от традиционните модели за машинно обучение, които основно анализират данни и правят прогнози, но не действат въз основа на тези прозрения. Генеративният ИИ създава съдържание в отговор на разговорни входни данни, но хората трябва да продължат да го подканват, за да прецизира резултатите. А инструментите за автоматизация, като планове за оркестрация, автоматизация и реакция при сигурността (SOAR), следват предварително дефинирани работни потоци и правила. За разлика от това, агентният ИИ изпълнява многoстъпкови задачи с ограничена човешка намеса.

Няколко основни характеристики правят ИИ агентен:

  • Автономност. Системите с агентен ИИ могат да работят при различни нива на човешко участие – от непрекъснато човешко наблюдение до по-автономно изпълнение в рамките на определени граници.
  • Целево ориентиране. Той активно преследва определени резултати, като откриване на заплахи, смекчаване на уязвимости или подобряване на защитната позиция.
  • Подготовка и планиране. Той може да координира многoстъпкови процеси, да разсъждава върху последователности от действия и да създава планове за постигане на целите си.
  • Памет. Агентните системи запазват контекста от предишни взаимодействия, събития и решения, така че да могат да правят по-информиран избор с течение на времето.
  • Непрекъснато учене и адаптация. Агентният ИИ се учи от нови данни, адаптира стратегиите си въз основа на контекста и подобрява ефективността си с течение на времето.

Човешки надзор в системи с агентен ИИ

Системите с агентен ИИ често са проектирани с вграден човешки надзор, за да балансират автономността и контрола.

В подхода на Microsoft към агентния ИИ за киберсигурност това е проектирано като съвместен модел, в който човешките оператори могат да наблюдават и насочват поведението на системата.

Често срещаните примери включват:

  • Прозрачно разсъждение. Системите на Microsoft предоставят контекст и обосновка към препоръките, за да помогнат на анализаторите да разберат изходните данни на системата и пътищата за вземане на решения.
  • Одобрение и коригиране. Екипите могат да преглеждат, одобряват, отхвърлят или прецизират действията на системата, като включват обратна връзка, за да подобряват непрекъснато резултатите.
  • Одитируеми контроли. Дейностите се управляват от корпоративни контроли за сигурност, като достъп въз основа на роли, регистрационни файлове за одит и предпазни мерки в работните потоци, за да се подпомогнат изискванията за отчетност и съответствие.

Как работи агентният ИИ

Агентният ИИ може динамично да реагира на променящи се условия и да адаптира поведението си въз основа на контекста благодарение на процес, наречен агентен цикъл – последователност от стъпки, които агентът повтаря, докато постигне целта си.

Възприема → Разсъждава → Планира → Действа → Учи

  • Възприема. Системата събира информация от средата си, включително регистрационни файлове, предупреждения, потребителска активност, информация за заплахи и данни от свързани инструменти и системи.
  • Причина. Тя анализира информацията, идентифицира модели, оценява рисковете и определя какво означават данните в контекст.
  • План. Въз основа на целите си системата разработва последователност от действия за постигане на желан резултат.
  • Закон. Агентът изпълнява задачи, като изолиране на устройство, създаване на заявка, ескалиране на предупреждение или събиране на допълнителни доказателства, чрез взаимодействие с инструменти, системи или работни потоци.
  • Научете. Системата оценява резултатите от действията си и използва обратна връзка, нови данни и предишни резултати, за да подобрява бъдещите решения и реакции.

За да работи ефективно агентният ИИ, екипите трябва също да решат дали искат да използват система с един агент или система с множество агенти. Системата с един агент разчита на един агент за управление на задачите и решенията, което работи добре, когато работните потоци са сравнително ограничени, а решенията са централизирани. Ако работните потоци са сложни или изискват различни видове експертност, организациите често настройват система с множество агенти, която използва няколко специализирани ИИ агента за киберсигурност, които работят заедно за постигане на обща цел.

Дори при автономни възможности надзорът от хора остава важен. Много организации използват контролни точки с човешка намеса и стъпки за одобрение при чувствителни или рискови действия, за да подпомогнат управлението, отчетността и оперативния контрол.

Агентна ИИ срещу генеративен ИИ срещу SOAR срещу традиционно Machine Learning

Разликите между традиционната автоматизация, генеративния ИИ и агентния ИИ стават по-ясни, когато се сравнят по основни измерения.

Dimension
Традиционно машинно обучение / SOAR
Генеративен ИИ
Агентен ИИ
Автономност
Базиран на правила, скриптиран
Отговаря на подкани
Действа автономно към дефинирани цели
Вземане на решение
Предварително дефинирана логика
Генерира отговори и съдържание
Планира, разсъждава и предприема действия
ОбучениеСтатични модели, периодично повторно обучение
Само в контекста, без постоянна адаптация
Непрекъсната адаптация с отчитане на контекста
Участие на хора
Хората изпълняват работния поток
Хората подготвят и преглеждат резултатите
Хората задават цели и предпазни граници
Типична употреба в SOC
Откриване на сигнатури и SOAR playbook-и
Анализатор В&О и обобщаване
Цялостно триажиране, откриване и реагиране

Защо агентният ИИ е важен за киберсигурността

За съжаление, не само бизнесът и правителствата възприемат ИИ с бързи темпове. Злонамерените участници използват агентни системи, за да увеличат скоростта и мащаба на кибератаките си, което създава или задълбочава няколко предизвикателства пред киберсигурността, включително:

  • Предизвикателството за мащаба. Екипите по сигурността често се сблъскват с огромен обем от предупреждения, нарастваща сложност на данните и постоянен недостиг на анализатори.
  • Предизвикателството за скоростта. Кибернападателите все по-често автоматизират операциите си, докато много защитници все още разчитат на ръчно сортиране и реагиране при инциденти.
  • Предизвикателството за надеждността и точността. Продължителното излагане на нощни смени и голям обем повтарящи се задачи може да доведе до умора и прегаряне на анализаторите, като увеличи риска от непоследователност и човешки грешки.
  • Предизвикателството на устойчивостта. Съвременните организации работят в хибридни среди, които включват облачни платформи, крайни точки, идентичности, приложения и услуги на трети страни. Тази разширяваща се повърхност за атака увеличава оперативния риск и създава повече възможности за кибернападателите.

Агентният ИИ в киберсигурността помага на екипите по сигурността да работят по-ефективно в среди, които стават твърде сложни, динамични и взаимосвързани за напълно ръчни операции по сигурността (SecOps). Това е различно от по-широката сигурност на агентния ИИ, която се фокусира върху защитата на самите системи с ИИ.

Ползи от агентния ИИ в киберсигурността

Вместо да замества екипите по сигурността, агентният ИИ действа като множител на силата в операциите по киберсигурност, като води до ползи като:

  • По-бързо средно време за откриване и реакция (MTTD/MTTR). Агентният ИИ може бързо да проучва сигнали, да корелира данни и да координира действията по реакция, като помага на екипите да намалят времето за откриване и реакция.
  • По-малко натоварване за анализаторите и повече време за работа с висока стойност. Като поема повтарящи се и отнемащи време задачи, агентният ИИ помага да се намали умората от предупреждения и позволява на анализаторите да се фокусират върху по-стратегически разследвания и вземане на решения.
  • Постоянен, повторяем триаж и реакция. Агентният ИИ прилага работни потоци и процеси последователно при всички инциденти, като подобрява оперативната надеждност чрез намаляване на променливостта, причинена от ръчни операции.
  • Непрекъснато покритие и еластично мащабиране. За разлика от човешките екипи, агентният ИИ може да работи непрекъснато и да се мащабира, за да обработва големи обеми предупреждения, събития и данни, без да изисква допълнителен персонал.
  • По-добро съотношение сигнал-шум и приоритизация. Агентният ИИ може да анализира големи обеми контекстни данни, за да помогне за идентифицирането на най-важните заплахи, като намалява ненужните предупреждения и подобрява приоритизацията.
  • По-голяма устойчивост и проактивно управление на риска. Агентният ИИ може непрекъснато да наблюдава средите, да идентифицира потенциални слабости и да подпомага проактивни мерки за сигурност, които помагат на организациите да намалят риска и да подобрят оперативната устойчивост с течение на времето.

Основни сценарии на използване на агентния ИИ в операциите по сигурността

Няколко сценария на използване показват как хората и агентите могат да работят заедно за укрепване на сигурността.

Триаж и приоритизиране на предупреждения

Екипите по сигурността често се сблъскват с повече предупреждения, отколкото могат да проучат ръчно, което прави приоритизацията от съществено значение за ефективната реакция.

Ролята на агента:

  • Обогатява предупрежденията с информация за заплахи, контекст за активите и данни за поведението на потребителите.
  • Приоритизира инцидентите въз основа на оценка на риска и увереността.
  • Препоръчва следващи стъпки за разследване или отстраняване.

Ролята на анализатора:

  • Преглежда инциденти с висок приоритет.
  • Потвърждава констатациите и решенията за ескалация.
  • Работи по сложни или чувствителни разследвания.

Набор от ресурси на Microsoft срещу заплахи

Екипите по сигурността разчитат на големи обеми данни за заплахи, което затруднява бързото извличане на релевантни и приложими анализи.

Ролята на агента:

  • Събира и обобщава информация за заплахи от множество източници.
  • Осигурява ситуационна осведоменост в реално време и бързо отчитане.
  • Свързва дейността на заплахите в различни среди.

Ролята на анализатора:

  • Тълкува стратегическия риск и тенденциите при заплахите.
  • Потвърждава значимостта и въздействието на разузнавателните данни.
  • Ръководи приоритетите и планирането на реакцията.

Проактивно търсене на киберзаплахи

Идентифицирането на скрити или нововъзникващи заплахи изисква непрекъснат анализ на големи и сложни набори от данни.

Ролята на агента:

  • Генерира хипотези за лов на заплахи и заявки към източници на данни.
  • Итеративно анализира големи набори от данни, за да идентифицира подозрителна активност.
  • Извършва непрекъснат фонов лов на нововъзникващи заплахи.

Ролята на анализатора:

  • Потвърждава констатациите и определя бизнес въздействието.
  • Проучва активност на усъвършенствани или целенасочени кибератаки.
  • Прецизира стратегиите и приоритетите за лов на заплахи.

Реакция при инциденти и отстраняване на проблеми на крайни точки

Реакцията при инциденти по сигурността изисква бърза координация между дейностите по откриване, разследване и ограничаване.

Ролята на агента:

  • Автоматизира събирането на доказателства и документацията за инцидента.
  • Изготвя времеви линии и обобщава активността при кибератаката.
  • Изпълнява действия по ограничаване след одобрение от анализаторите.
  • Помага за защитата на крайни точки и автоматизира работните потоци за отстраняване на уязвимости.

Ролята на анализатора:

  • Одобрява действия за реакция с висок риск.
  • Наблюдава усилията по отстраняване на проблема и възстановяване.
  • Координира комуникацията и прегледа след инцидента.

Управление на уязвимости и изложеност

Организациите трябва да идентифицират и приоритизират слабостите в сигурността, преди да бъдат експлоатирани от заплахи.

Ролята на агента:

  • Приоритизира уязвимостите въз основа на нивото на риск и стойността на активите, изложени на риск.
  • Идентифицира експозиции в облачни, крайни и идентичностни среди.
  • Препоръчва пътища за отстраняване и действия за смекчаване.

Ролята на анализатора:

  • Определя приоритетите за отстраняване въз основа на бизнес риска.
  • Потвърждава препоръчаните действия.
  • Координира дейностите по коригиране на уязвимости и намаляване на риска.

Сигурност на идентичността и достъпа

Наблюдението на активността на идентичностите е критично за откриване на неоторизиран достъп и предотвратяване на неправомерно използване на привилегии.

Ролята на агента:

  • Открива необичайни модели на влизане и достъп.
  • Идентифицира рискови разрешения и рискове от ескалация на привилегии.
  • Непрекъснато наблюдава заплахи, свързани с идентичности.

Ролята на администратора по идентичност и достъп:

  • Преглежда събития за достъп с висок риск.
  • Одобрява промени в правилата или разрешенията.
  • Проучва потенциална вътрешна активност или компрометиране на акаунт.

Инженеринг на сигурността и разработване на откривания

Екипите по сигурността трябва непрекъснато да изграждат и усъвършенстват логиката за откриване, за да са в крак с развиващите се заплахи.

Ролята на агента:

  • Пише и тества логика за откриване.
  • Потвърждава обхвата на откриване и идентифицира пропуски.
  • Предлага подобрения на настройките, за да се намалят фалшивите положителни резултати.

Ролята на анализатора:

  • Преглежда и одобрява актуализации на откриването.
  • Съгласува откриванията с организационните приоритети.
  • Надзирава дългосрочната архитектура и стратегията за сигурност.

Защита на данните и съответствие

Защитата на чувствителни данни изисква непрекъснато наблюдение, класификация и прилагане на политики за сигурност.

Ролята на агента:

  • Проучва и приоритизира рисковете от предотвратяване на загуба на данни и вътрешни рискове.
  • Автоматизира откриването и анализа на рискове за чувствителни данни в различни среди.
  • Идентифицира нарушения на правилата и пропуски в съответствието.

Ролята на администратора по защита на данните:

  • Преглежда събития за високорисково излагане на данни.
  • Определя изискванията за съответствие и управление.
  • Надзирава решенията за отстраняване и прилагане на политики.

Как агентният ИИ се интегрира в работните потоци за киберсигурност

Агентният ИИ в киберсигурността носи най-голяма стойност, когато помага на екипите да анализират данни, да обогатяват предупреждения и да реагират на уязвимости и заплахи в цялата среда. За да направят това, организациите използват API, за да свържат агенти за сигурност с инструментите, които вече използват, като SOAR, разширено откриване и реакция (XDR), управление на конфигурацията на облачната сигурност (CSPM), управление на самоличността и достъпа (IAM), управление на информацията и събитията по сигурността (SIEM), EDR инструменти за откриване и реакция на крайни точки и решения за управление на заявки. Това позволява на агентните ИИ системи да извличат информация, да координират работни потоци, да задействат действия и да актуализират системи в реално време.

Автоматизацията спестява на екипите много време, но все пак е важно да се поддържат контрол и отчетност, за да се избегнат непредвидени действия. Екипите по сигурността обикновено изискват от анализаторите да преглеждат решения с висок риск, като същевременно позволяват повече автономност при действия с по-нисък риск. Във всеки от двата случая е важно да се установят управление на данните и контроли за достъп, за да се гарантира, че ИИ взаимодейства само с одобрени системи и данни.

Измерване на успеха – показатели и възвръщаемост на инвестициите

Екипите по сигурността, които постигат най-голям успех с агентния ИИ, въвеждат инструменти за измерване, за да оценяват доколко добре изпълняват целите си. Това им дава информацията, от която се нуждаят, за да коригират и прецизират своите внедрявания.

Основните показатели за успех включват:

Оперативни показатели

Данните, които помагат да се определи ефективността на операциите по сигурността, включват:

  • MTTD и MTTR.
  • Брой предупреждения, които се триажират или затварят автоматично.
  • Намаляване на процента фалшиви положителни резултати.
  • Време, необходимо за разследване и отстраняване на инциденти.

Показатели за персонала

Тези показатели дават на ръководството представа за това как агентният ИИ променя начина, по който екипите по сигурността разпределят времето си:

  • Часове на Анализатор, възстановени от ръчно разследване и триаж.
  • Процент на ескалация за известия, изискващи намесата на Анализатор.
  • Време за въвеждане на нови Анализатори с подпомогнати от ИИ работни потоци.
  • Намаляване на повтарящи се или с ниска стойност задачи.

Бизнес показатели

Ръководителите могат също да видят как подобренията в сигурността се отразяват на цялата организация с показатели като:

  • Разход на един инцидент по сигурността.
  • Покритие в среди, идентичности, крайни точки и облачни ресурси
  • Обща позиция по съответствие и готовност за одит.
  • Намаляване на оперативната рискова експозиция с течение на времето.

Рискове, ограничения и съображения за безопасност

Тъй като агентните системи работят с различни нива на автономност, управлението, прозрачността и контролът са от съществено значение за безопасното внедряване.

Оперативни и технически рискове

  • Сенчести агенти и неуправлявана автоматизация. С увеличаването на мащаба на агентните системи организациите могат неволно да създадат неуправляеми или дублирани агенти. Без подходящ надзор тези „сенчести агенти“ могат да доведат до непоследователно поведение или неразрешени действия.
  • Халюцинации и фалшиви положителни резултати. Както и други ИИ системи, агентният ИИ може да дава неправилни заключения или да тълкува погрешно данни, което може да доведе до ненужни известия или неправилни действия, ако не бъде проверен.
  • Прекомерна автоматизация и загуба на контрол. Прекомерната зависимост от автоматизацията може да намали видимостта в процесите на вземане на решения, като увеличи риска от пропуснат контекст или неподходящи действия.
  • Поверителност на данните и контрол на достъпа. Агентните ИИ системи изискват достъп до чувствителни данни за сигурността, което прави строгия контрол върху разрешенията, границите на данните и достъпа с най-ниски привилегии от критично значение.
  • Отклонение на модела и злонамерена манипулация. С течение на времето производителността на модела може да се влоши, когато средите се променят. Освен това кибератакуващите могат да се опитат да манипулират входни данни или показатели, за да влияят върху поведението на агента.

Регулаторни съображения и съображения за съответствие

  • NIST AI Risk Management Framework (AI RMF) предоставя насоки за управление на рисковете, свързани с ИИ, през целия жизнен цикъл, включително управление, картографиране, измерване и управление.
  • ISO/IEC 42001 определя изисквания за система за управление на ИИ, като се фокусира върху отговорното разработване и използване на ИИ системи.
  • EU AI Act въвежда класификация, базирана на риска, и изисквания за съответствие за ИИ системи, които работят в Европейския съюз или оказват влияние върху него.
  • Регулациите, специфични за сектора , са уникални изисквания за определени отрасли, като Закона за преносимост и отчетност на здравното осигуряване (HIPAA) за защита на данните в Здраве­опазването, Стандарта за сигурност на данните в индустрията за платежни карти (PCI DSS) за сигурността на плащанията и Закона Сарбейнс – Оксли (SOX) за контроли на финансово отчитане.

Проектиране на отговорна стратегия за агентен ИИ

Докато екипите по сигурността внедряват и мащабират агентен ИИ за киберсигурност в своите организации, добре обмислената стратегия помага да се подобрят резултатите по сигурността, като същевременно се запазят прозрачността, отчетността и доверието между екипите.

Принципи за безопасно внедряване

Обикновено организациите въвеждат агентен ИИ на контролирани етапи, като започват с нискорискови, помощни сценарии на употреба, преди да преминат към действия с по-голямо въздействие. Също така е важно да се даде приоритет на прозрачността в начина, по който агентите по сигурността вземат решения.

Защитни мерки и работни потоци за одобрение

Ясно дефинираните предпазни граници помагат да се ограничи поведението на агента в безопасни и очаквани рамки. За да намалят риска от неочаквано поведение, екипите определят кои действия агентите с изкуствен интелект за киберсигурност могат да изпълняват самостоятелно, установяват работни потоци за одобрение при операции с висок ефект или чувствителни операции и задават прагове за това кога агентите по сигурността трябва да ескалират към анализатори.

Достъп за базирани на роли ИИ агенти

Управлението на достъпа, базирано на роли (RBAC), помага да се намали рискът от непредвидена активност, като ограничава достъпа на агента до системите, данните и действията, необходими за конкретната му функция. Поради тази причина екипите по идентичности прилагат същите принципи на най-ниски привилегии към агентите, както към хората.

Наблюдение и одитиране на действията на агентите

За да поддържат видимост върху поведението на агентите, екипите по сигурността записват и проверяват всички действия на агентите, включително решения, използване на инструменти и резултати. Това им помага да разследват инциденти, да изпълняват изискванията за съответствие и да откриват проблеми при внедряването, които трябва да бъдат прецизирани.

Изграждане на доверие с анализаторите

Анализаторите са по-склонни да възприемат агентния ИИ, ако се чувстват информирани и в контрол. Организациите могат да изградят доверие, като се уверят, че препоръките на агентите са ясни и лесни за разбиране. Те също така постигат по-добри резултати, когато използват ИИ, за да допълват, а не да заменят вземането на решения от Анализатор.

Координация между различни екипи

Центровете за операции по сигурността (SOC), ИТ и екипите по съответствие играят роля във внедряването на агентния ИИ безопасно, ефективно и в съответствие с готовността на организацията да поема риск. Екипът с различни специалности помага на организациите да дефинират оперативни сценарии на употреба, да управляват интеграцията и инфраструктурата и да изпълняват регулаторните изисквания.

От автоматизация към агентна сигурност

Изграждането на изцяло агентни работни потоци, които функционират в различни области на сигурността, е многоетапен процес. С повишаването на оперативната зрялост на организациите те се нуждаят от по-силно управление и надзор.

Етап 1: Скриптова автоматизация

На най-ранния етап организациите използват предварително дефинирани скриптове и работни потоци за обработка на повтарящи се задачи по сигурността.

Как изглежда успехът:

  • Постоянно изпълнение на рутинни задачи, като обогатяване на известия или създаване на заявки.
  • Намалени ръчни усилия в работни потоци с ниска сложност.
  • Зависимост от статични правила и сценарии.

Показатели за готовност:

  • Стабилни интеграции със SIEM, SOAR и системи за заявки.
  • Ясно дефинирани и повтаряеми процеси за сигурност.
  • Голям обем повтарящи се задачи на анализаторите.

Етап 2: Анализ с помощта на ИИ

На този етап ИИ подпомага Анализаторите, като подобрява видимостта, обобщаването и вземането на решения, но не предприема пряко действие.

Как изглежда успехът:

  • По-бързо разследване чрез генерирани от ИИ обобщения и прозрения.
  • По-добро разбиране на известията и обогатяване на контекста.
  • Анализаторите остават изцяло отговорни за решенията и действията.

Показатели за готовност:

  • Узрели потоци от данни и централизирани показатели.
  • Установени процеси за операции по сигурността.
  • Необходимост от по-бързо сортиране и поддръжка при разследване.

Етап 3: Полуавтономни агенти

Тук агентният ИИ започва да предприема ограничени действия в рамките на ясно определени предпазни граници, докато хората запазват правото на одобрение за операции с по-висок риск.

Как изглежда успехът:

  • Автоматизиран триаж, обогатяване и препоръчани стъпки за отстраняване.
  • Намалено натоварване на Анализаторите при повтарящи се задачи по разследване.
  • Одобрение от човек в цикъла за действия по изолиране и отстраняване.

Показатели за готовност:

  • Силни контроли за идентичност и достъп за системи за автоматизация.
  • Добре дефинирани работни потоци за ескалация и одобрение.
  • Увереност в качеството на данните и системните интеграции.

Етап 4: Изцяло агентни работни потоци

В най-зрелия етап агентният ИИ работи в множество домейни, като координира действия с минимална намеса от анализатор в рамките на установени граници. Това позволява цялостна оркестрация на сигурността в цялата организация.

Как изглежда успехът:

  • Непрекъснато, автономно откриване, разследване и реагиране в различни среди.
  • Координация между домейни за системи за сигурност, ИТ, идентичност и съответствие.
  • Хората се фокусират върху управление, стратегия и обработка на изключения.

Показатели за готовност:

  • Зрели рамки за управление на ИИ и автоматизация.
  • Метрики с висока степен на увереност и интегритет на данните във всички системи.
  • Силно съгласуване между екипите по сигурност, ИТ и съответствие.
  • Изградена увереност в автоматизираното вземане на решения с възможност за одит и надзор.

Тенденции в агентния ИИ в киберсигурността

Агентният ИИ все още е в ранен етап на своето навлизане, но няколко ясни тенденции оформят развитието му в областта на сигурността.

  • Автономни тестове от типа „червен отбор“. ИИ агентите все по-често ще симулират поведение на противник, за да тестват непрекъснато защитите, да откриват слабости и да валидират контролите за сигурност в реално време.
  • Цикли на агентите. Агентният ИИ за операциите по сигурност ще става все по-непрекъснат и самоусъвършенстващ се, като агентите ще възприемат, действат и се учат от резултатите, за да прецизират откриването и реакцията.
  • Киберконфликт между ИИ системи. Тъй като кибератакуващите също използват ИИ, бъдещите киберсблъсъци може да включват отбранителни и нападателни агентни системи, които се конкурират директно една с друга.
  • Прогнозна защита. Вместо да реагират на инциденти, агентните системи ще предвиждат заплахите, като анализират модели, данни за излагане и поведението на атакуващите, за да предотвратят кибератаки, преди да се случат.
  • Съвместни ИИ агенти. Множество специализирани агенти ще координират задачи като откриване, разследване, отстраняване и докладване, за да създават по-мащабируеми и устойчиви работни потоци за сигурност.
  • Ролята на анализатора. Анализаторите ще се отдръпнат от повтарящите се задачи по разследване и реакция и ще се насочат към по-ценни отговорности, като надзор върху агенти, дизайн на политики и стратегическо управление на риска.

Microsoft Security и агентен изкуствен интелект

Организациите могат да откриват, разследват и реагират на заплахи в целия си дигитален имот с единна платформа за сигурност, задвижвана от ИИ, от Microsoft. В центъра е Microsoft Security Copilot, решение за сигурност с естествен език и ИИ асистенция, което позволява на анализаторите да разсъждават върху инциденти, да обобщават заплахи и да координират действията по реакция в различни среди. Вградени агенти разширяват тези възможности в решенията на Microsoft Security.

Microsoft Defender XDR: агентни операции на SOC

Екипите по сигурност често са претоварени от обема на известията, ръчното първоначално сортиране и фрагментираните разследвания. В Microsoft Defender XDR агентният ИИ помага за приоритизиране на рискови проблеми, по-бързо разследване на инциденти и подобряване на ефективността на реакцията.

  • Агент за разпределяне на известия, свързани със сигурността – приоритизира известията, за да намали шума и да помогне на анализаторите по-бързо да се фокусират върху инциденти с висок риск.
  • Агент анализатор по въпроси за сигурността – разследва инциденти, свързва сигналите и препоръчва действия по реакция, за да рационализира работните потоци в SOC.
  • Агент за лов на заплахи – търси в различни среди, за да разкрие скрити заплахи, подозрително поведение и нововъзникващи модели на атака.
  • Агент за динамично откриване на заплахи – непрекъснато анализира активността и адаптира логиката за откриване, за да идентифицира развиващи се заплахи и аномалии.
  • агент за брифинг за интелигентност за заплахи – обобщава разузнавателна информация за заплахи в приложими прозрения, така че екипите да могат да изпреварват нововъзникващите рискове.

Заедно тези агенти помагат да се намали ръчното разследване и да се ускори реакцията на инциденти в крайни точки, идентичности, имейл и облачни работни натоварвания.

Microsoft Sentinel: откриване, проследяване и координиране с помощта на изкуствен интелект

В Microsoft Sentinel Security Copilot помага на анализаторите да преминат от ръчно разследване към работни потоци на базата на набор подкани и естествен език. Анализаторите могат да генерират KQL, да обобщават инциденти, да обогатяват обекти, да анализират потребители и устройства и да автоматизират стъпки по разследване чрез Logic Apps и набор подкани.

Персонализиран агент за отчети за инциденти в Sentinel може да извлича резултати от разследване, обекти, прозрения и стъпки за отстраняване от инциденти. Набор подканите могат също да автоматизират анализ на потребители и да добавят резултати директно в дневниците за активност по инцидента.

Тези възможности помагат да се намали ръчното писане на заявки, да се подобри последователността на разследванията и да се спести време на анализаторите чрез автоматизиране на повтаряеми задачи.

Microsoft Purview: агентна защита на данните и съответствие

В Microsoft Purview Security Copilot помага на екипите да защитават и управляват данните в Data Security Posture Management, Data Loss Prevention, Insider Risk Management, eDiscovery, Audit и Communication Compliance.

  • Агент за триаж на защитата на данните – приоритизира DLP и Insider Risk известията, обяснява контекста на риска и може да инициира работни потоци за отстраняване с притежателите на данните.
  • Агент за положението на защитата на данните – открива чувствителни данни, идентифицира скрити рискове и изложени идентификационни данни, подобрява етикетирането на чувствителността и генерира резюмета, готови за ръководството.

Тези агенти помагат на екипите по сигурност да намалят ръчния триаж, да приоритизират по-бързо критичните рискове и да укрепят операциите по защита на данните и съответствие.

Microsoft Entra: агенти за идентичност и достъп

В Microsoft Entra Security Copilot помага на екипите да разследват рискови потребители, необичайни влизания, привилегирован достъп и заплахи, базирани на идентичност. Copilot може да обобщава контекста на идентичността, да обяснява рисковите сигнали и да препоръчва действия като отнемане на сесия, прегледи на достъпа или настройка на правилата за Conditional Access.

Възможностите включват агенти за идентичност и достъп и ИД на агент на Microsoft Entra, които помагат на организациите да регистрират, управляват и контролират идентичностите на ИИ агенти с управление на жизнения цикъл, управление на достъпа и контрол на защитата на идентичността.

Тези възможности помагат на организациите да намалят риска за идентичността и да прилагат принципите на Zero Trust както за човешки, така и за ИИ идентичности.

Microsoft Intune: агенти за управление на крайни точки

В Intune Security Copilot помага на екипите по крайни точки и ИТ да разберат съответствието на устройствата, отклоненията в конфигурацията, изложеността на уязвимости и нуждите от отстраняване. Copilot може да обобщава риска за устройството, да обяснява проблемите с несъответствието, да препоръчва следващи стъпки и да помага на екипите да реагират по-бързо.

Агентите за управление на крайни точки помагат да се автоматизират проверките за съответствие, да се разследват проблеми с устройствата и да се насочва отстраняването в управляваните крайни точки.

Тези възможности помагат да се намали ръчното разследване на крайни точки, да се подобрят операциите по съответствие и да се затварят по-бързо пропуските в конфигурацията.

Заедно Microsoft Security Copilot и вградените агенти помагат на организациите да преминат от реактивни, ръчни операции по сигурност към адаптивна, поддържана от ИИ защита, която подобрява защитата, скоростта и мащаба през целия жизнен цикъл на сигурността.

Често задавани въпроси

  • Агентният изкуствен интелект се отнася до системи с ИИ, които имат автономност и способности за разсъждение и преследват определени цели с минимални указания. За разлика от традиционната автоматизация, тези системи могат да се адаптират към променящи се условия, да планират многостъпкови работни потоци и непрекъснато да се учат от резултатите, за да подобряват производителността.
  • Генеративният ИИ създава съдържание, например текст, резюмета или код, в отговор на подкани, докато агентният ИИ планира и предприема действия, за да изпълни предварително определени цели за сигурност.
  • Агентният ИИ в киберсигурността означава внедряване на агенти, които автономно анализират данни, разследват аномалии и координират работни потоци по сигурността от край до край.
  • Често срещан пример за агентен ИИ в сигурността е агент за триаж на SOC сигнали, който автоматично обогатява сигналите за сигурност с контекстуални данни, изчислява оценки на риска и препоръчва следващи стъпки за ограничаване на заплахата.
  • Решенията за оркестрация, автоматизация и реакция по сигурността (SOAR) разчитат на предварително дефинирани, статични работни сценарии, за да автоматизират действията по реакция, което ги прави силно процедурни и ограничени по отношение на адаптивността. За разлика от това, агентният ИИ анализира контекста, динамично коригира работните потоци и непрекъснато се учи, което му позволява да се справя със сложни или развиващи се сценарии на кибератаки, без да разчита на твърди правила за оркестрация.

Следвайте Microsoft Security

Български (България) Поверителност на здравето на потребителите Връзка с Microsoft Поверителност Управление на бисквитките Условия за използване Търговски марки За нашите реклами EU Compliance DoCs