This is the Trace Id: 78d3ece4198e64ec2ef95f0a3d249181
Preskoči na glavno vsebino Microsoft Defender Microsoft Entra Microsoft Intune Project Perception Microsoft Purview Microsoft Sentinel SIEM Prikaži vse izdelke Kibernetska varnost, ki uporablja umetno inteligenco Varnost v oblaku Varnost in upravljanje podatkov Identiteta in omrežni dostop Varnost za umetno inteligenco Malo in srednje veliko podjetje Integrirani varnostni postopki Ničelno zaupanje Cene Storitve Partnerji Zakaj Microsoftova varnost Osveščanje o kibernetski varnosti Mnenja strank Osnove varnosti Preskusne različice izdelkov Priznanja v panogi Microsoft Security Insider Poročilo o Microsoftovi digitalni obrambi Odzivno središče za varnost Spletni dnevnik o Microsoftovi varnosti Dogodki Microsoftove varnosti Microsoft Tech Community Dokumentacija Knjižnica tehnične vsebine Usposabljanje in potrdila Program skladnosti s predpisi za Microsoft Cloud Microsoftovo središče zaupanja Portal za zanesljivost storitev Microsoftova Pobuda za varno prihodnost Središče za poslovne rešitve Obrnite se na prodajo Začetek uporabe brezplačne preskusne različice Microsoftova varnost Azure Dynamics 365 Microsoft 365 Microsoft Teams Windows 365 Microsoftova umetna inteligenca Azure Space Mešana resničnost Microsoft HoloLens Microsoft Viva Kvantno računalništvo Izobraževanje Avto-moto Finančne storitve Državne ustanove Zdravstvo Proizvodnja Maloprodaja Poiščite partnerja Postanite partner Mreža za partnerje Microsoft Marketplace Podjetja za programsko opremo Spletni dnevnik Microsoft Advertising Središče za razvijalce Dokumentacija Dogodki Licenciranje Microsoft Learn Microsoft Research Oglejte si zemljevid spletnega mesta

Kaj je agentna UI v kibernetski varnosti?

Agentna UI v kibernetski varnosti je uporaba avtonomnih posrednikov za zaznavanje in raziskovanje groženj ter odzivanje nanje z minimalnim človeškim posredovanjem.
Poročilo o digitalni obrambi Microsoft 2024: Osnove in nove meje kibernetske varnosti

Posrednik kibernetske varnosti je zmogljivost, ki uporablja UI, zasnovana za avtonomno pomoč varnostnim ekipam. Agentna UI v kibernetski varnosti se nanaša posebej na način, kako se ti posredniki uporabljajo za zaznavanje in raziskovanje kibernetskih groženj ter odzivanje nanje.

Ker akterji groženj vse pogosteje uporabljajo avtomatizacijo za pospeševanje svojih kibernetskih napadov, varnostne ekipe uvajajo posrednike v različnih scenarijih, da bi jim pomagali hitreje ukrepati in biti korak pred novimi tveganji.

Ključne ugotovitve

  • Agentna UI v kibernetski varnosti avtonomno zasleduje cilje z uporabo sklepanja, načrtovanja in neprekinjenega učenja za izvajanje večstopenjskih opravil.
  • Varnostne ekipe uvajajo agentno UI, da bi se lažje soočile z vse večjimi izzivi na področju kibernetske varnosti, vključno s preobsežnim številom opozoril, hitrejšimi napadi s pomočjo UI, utrujenostjo analitikov in zapletenimi hibridnimi okolji.
  • Agentna UI lahko izboljša varnostne postopke s hitrejšim zaznavanjem groženj in odzivanjem nanje, zmanjšanjem ponavljajočega se dela analitikov, boljšim določanjem prednosti in zagotavljanjem bolj dosledne in prilagodljive varnostne pokritosti.
  • Posredniki UI so zasnovani za pomoč v specializiranih potekih dela na ključnih področjih, kot so lažno predstavljanje, varnost podatkov in upravljanje identitet.
  • Organizacije uporabljajo varovalke, poteke dela odobritve, nadzor dostopa na osnovi vlog in revizijo, da pomagajo zagotoviti, da agentna UI deluje varno, pregledno in v okviru določenih meja.
  • Večina organizacij uvaja agentno UI postopoma, pri čemer začne s poteki dela, kjer je potrebna dodatna zmogljivost ekipe. Ko se upravljanje in operativna zrelost izboljšujeta, ekipe prehajajo od skriptirane avtomatizacije in analize s pomočjo UI k bolj avtonomnim potekom dela.

Zakaj je UI agentna?

Agentna UI se razlikuje od tradicionalnih modelov strojnega učenja, generativne UI in orodij za avtomatizacijo, ker samostojno zasleduje cilje in se prilagaja spreminjajočim se pogojem. To se razlikuje od tradicionalnih modelov strojnega učenja, ki predvsem analizirajo podatke in napovedujejo, vendar ne ukrepajo na podlagi teh vpogledov. Generativna UI ustvarja vsebino kot odziv na pogovorne vnose, vendar jo morajo ljudje še naprej pozivati, da izpopolni rezultate. Orodja za avtomatizacijo, kot so postopkovni priročniki za avtomatiziran odziv varnostne orkestracije (SOAR), sledijo vnaprej določenim potekom dela in pravilom. Agentna UI pa po drugi strani izvaja večstopenjska opravila z omejenim človeškim posredovanjem.

UI je agentna zaradi več osnovnih funkcij:

  • Avtonomnost. Sistemi z agentno UI lahko delujejo z različnimi stopnjami človeške vključenosti, od neprekinjenega človeškega nadzora do bolj avtonomnega izvajanja v okviru določenih meja.
  • Usmerjenost k cilju. Aktivno zasleduje določene rezultate, kot so zaznavanje groženj, ublažitev ranljivosti ali izboljšanje stanja varnosti.
  • Razmišljanje in načrtovanje. Lahko usklajuje večstopenjske procese, sklepa o zaporedjih dejanj in ustvarja načrte za doseganje svojih ciljev.
  • Spomin. Agentni sistemi ohranjajo kontekst iz prejšnjih interakcij, dogodkov in odločitev, zato lahko sčasoma sprejemajo bolj premišljene odločitve.
  • Nenehno učenje in prilagajanje. Agentna UI se uči na podlagi novih podatkov, prilagaja strategije glede na kontekst in sčasoma izboljšuje svojo učinkovitost.

Človeški nadzor v sistemih z agentno UI

Sistemi z agentno UI so pogosto zasnovani z vgrajenim človeškim nadzorom, da uravnotežijo avtonomijo in nadzor.

V Microsoftovem pristopu k agentni UI za kibernetsko varnost je to zasnovano kot sodelovalni model, v katerem lahko človeški operaterji spremljajo in usmerjajo delovanje sistema.

Pogosti primeri so:

  • Pregledno razmišljanje. Microsoftovi sistemi zagotovijo podporni kontekst in utemeljitev skupaj s priporočili, da analitikom pomagajo razumeti rezultate sistema in poti odločitve.
  • Odobritev in prilagajanje. Ekipe lahko pregledajo, odobrijo, zavrnejo ali natančno prilagodijo dejanja sistema ter vključijo povratne informacije za nenehno izboljševanje rezultatov.
  • Nadzori, ki jih je mogoče revidirati. Dejavnosti urejajo varnostni nadzori v podjetju, kot so dostop na osnovi vlog, dnevniki revizij in varovala poteka dela, ki podpirajo odgovornost in zahteve glede skladnosti.

Kako deluje agentna UI

Agentna UI se lahko dinamično odziva na spreminjajoče se pogoje in prilagaja svoje vedenje glede na kontekst zaradi procesa, imenovanega agentna zanka – zaporedja korakov, ki jih posrednik ponavlja, dokler ne doseže svojega cilja.

Zaznavanje → Razmišljanje → Načrtovanje → Ukrepanje → Učenje

  • Zaznavanje. Sistem zbira informacije iz svojega okolja, vključno z dnevniki, opozorili, dejavnostjo uporabnikov, informacijami o kibernetskih grožnjah ter podatki iz povezanih orodij in sistemov.
  • Razmišljanje. Analizira informacije, prepoznava vzorce, ocenjuje tveganja in ugotavlja, kaj podatki pomenijo v kontekstu.
  • Načrtovanje. Na podlagi svojih ciljev sistem pripravi zaporedje dejanj za dosego želenega rezultata.
  • Ukrepanje. Posrednik izvede opravila, kot so izolacija naprave, odpiranje vstopnice, stopnjevanje opozorila ali zbiranje dodatnih dokazov, tako da uporablja orodja, sisteme ali poteke dela.
  • Učenje. Sistem oceni rezultate svojih dejanj in uporabi povratne informacije, nove podatke in prejšnje rezultate za izboljšanje prihodnjih odločitev in odzivov.

Da bi agentna UI delovala učinkovito, se morajo ekipe odločiti tudi, ali želijo uporabiti sistem z enim posrednikom ali sistem z več posredniki. Sistem z enim posrednikom se zanaša na enega posrednika za upravljanje opravil in odločitev, kar dobro deluje, ko so poteki dela razmeroma omejeni in so odločitve centralizirane. Če so poteki dela zapleteni ali zahtevajo različne vrste strokovnega znanja, organizacije pogosto vzpostavijo sistem z več posredniki, ki uporablja več specializiranih posrednikov UI za kibernetsko varnost, ki skupaj delujejo, da dosežejo skupni cilj.

Tudi z avtonomnimi zmogljivostmi ostaja nadzor ljudi pomemben. Številne organizacije uporabljajo kontrolne točke s človekom v zanki in odobritvena vrata za občutljiva ali visoko tvegana dejanja, da pomagajo ohranjati upravljanje, odgovornost in operativni nadzor.

Agentna UI v primerjavi z generativno UI v primerjavi z rešitvijo SOAR v primerjavi s tradicionalnim strojnim učenjem

Razlike med tradicionalno avtomatizacijo, generativno UI in agentno UI postanejo jasnejše, ko jih primerjamo po osnovnih razsežnostih.

Razsežnost
Tradicionalno strojno učenje / SOAR
Generativna UI
Agentna UI
Avtonomnost
Na osnovi pravil, skriptirano
Odziva se na pozive
Deluje avtonomno proti določenim ciljem
Sprejemanje odločitev
Vnaprej določena logika
Generira odgovore in vsebino
Načrtuje, razmišlja in ukrepa
UčenjeStatični modeli, redno ponovno učenje
Le v kontekstu, brez trajnega učenja
Nenehno prilagajanje, ki se zaveda konteksta
Sodelovanje ljudi
Ljudje izvajajo potek dela
Ljudje pripravljajo pozive in pregledajo rezultat
Ljudje določajo cilje in varovala
Tipična uporaba središča za varnostne postopke
Zaznavanje podpisov in postopkovni priročniki SOAR
Analitik za Q&A in povzemanje
Celovito razvrščanje, iskanje in odzivanje

Zakaj je agentna UI pomembna za kibernetsko varnost

Žal pa hitrega tempa uvajanja UI ne sprejemajo samo podjetja in vlade. Akterji groženj uporabljajo agentne sisteme za povečanje hitrosti in obsega svojih kibernetskih napadov, kar ustvarja ali še poglablja številne izzive na področju kibernetske varnosti, med katerimi so:

  • Izziv obsega. Varnostne ekipe se pogosto soočajo s preobsežnim številom opozoril, vse večjo zapletenostjo podatkov in stalnim pomanjkanjem analitikov.
  • Izziv hitrosti. Kibernetski napadalci vse pogosteje avtomatizirajo svoje delovanje, številni branilci pa se še vedno zanašajo na ročne postopke razvrščanja in odziva na dogodek.
  • Izziv zanesljivosti in pravilnosti. Dolgotrajna izpostavljenost nočnim izmenam in velikemu številu ponavljajočih se opravil lahko povzroči utrujenost in izgorelost analitikov ter poveča tveganje za nedoslednost in človeške napake.
  • Izziv odpornosti. Sodobne organizacije delujejo v hibridnih okoljih, ki vključujejo platforme v oblaku, končne točke, identitete, aplikacije in storitve tretjih oseb. Ta vse večja tarča napada povečuje operativno tveganje in ustvarja več priložnosti za kibernetske napadalce.

Agentna UI v kibernetski varnosti pomaga varnostnim ekipam učinkoviteje delovati v okoljih, ki postajajo preveč zapletena, prehitro spreminjajoča se in preveč povezana za povsem ročne varnostne postopke (SecOps). To se razlikuje od širše varnosti agentne UI, ki se osredotoča na zaščito samih sistemov UI.

Kaj je agentna UI v kibernetski varnosti

Namesto da bi nadomestila varnostne ekipe, agentna UI deluje kot množitelj moči v postopkih kibernetske varnosti, kar prinaša prednosti, kot so:

  • Hitrejši povprečni čas do zaznave in odziva (MTTD/MTTR). Agentna UI lahko hitro razišče opozorila, poveže signale in uskladi odzivne ukrepe, kar ekipam pomaga skrajšati čas zaznave in odziva.
  • Manjša utrujenost analitikov in več časa za delo z večjo dodano vrednostjo. Z obravnavo ponavljajočih se in zamudnih opravil agentna UI pomaga zmanjšati utrujenost zaradi opozoril in analitikom omogoča, da se osredotočijo na bolj strateške raziskave in odločanje.
  • Dosledno, ponovljivo razvrščanje in odziv. Agentna UI dosledno uporablja poteke dela in procese pri vseh dogodkih ter izboljšuje operativno zanesljivost z zmanjševanjem odstopanj, ki jih povzročajo ročna opravila.
  • 24-urno kritje in prilagodljiva razširljivost. Za razliko od človeških ekip lahko agentna UI deluje neprekinjeno in se prilagaja velikim količinam opozoril, dogodkov in podatkov brez potrebe po dodatnem osebju.
  • Boljše razmerje med signalom in šumom ter boljša prioritizacija. Agentna UI lahko analizira velike količine podatkov v kontekstu in pomaga prepoznati najpomembnejše grožnje, s čimer zmanjša nepotrebna opozorila in izboljša prioritizacijo.
  • Večja odpornost in proaktivno upravljanje tveganja. Agentna UI lahko nenehno spremlja okolja, prepozna morebitne slabosti in podpira proaktivne varnostne ukrepe, ki organizacijam pomagajo zmanjšati tveganje in sčasoma izboljšati operativno odpornost.

Osnovni primeri uporabe agentne UI v varnostnih postopkih

Več primerov uporabe kaže, kako lahko ljudje in posredniki sodelujejo pri krepitvi varnosti.

Razvrščanje opozoril in določanje prednosti opozoril

Varnostne ekipe se pogosto soočajo z več opozorili, kot jih lahko ročno raziščejo, zato je prioritizacija bistvena za učinkovit odziv.

Vloga posrednika:

  • Obogati opozorila z informacijami o kibernetskih grožnjah, kontekstu sredstva in vedenju uporabnikov.
  • Dogodkom določi prioriteto glede na tveganje in oceno zaupanja.
  • Priporoči naslednje korake za raziskavo ali popravljanje/posodabljanje.

Vloga analitika:

  • Pregleduje dogodke z visoko prioriteto.
  • Potrjuje ugotovitve in odločitve o stopnjevanju.
  • Obravnava zapletene ali občutljive raziskave.

Obveščanje o grožnjah

Varnostne ekipe se zanašajo na velike količine podatkov o grožnjah, zato je težko hitro izluščiti ustrezne in uporabne vpoglede.

Vloga posrednika:

  • Zbere in povzame informacije o kibernetskih grožnjah iz več virov.
  • Zagotavlja sprotno situacijsko zavedanje in hitro poročanje.
  • Povezuje dejavnost groženj med okolji.

Vloga analitika:

  • Razlaga strateška tveganja in trende groženj.
  • Potrjuje ustreznost in vpliv obveščevalnih podatkov.
  • Usmerja prednostne naloge odziva in načrtovanje.

Lov na kibernetske grožnje

Za prepoznavanje skritih ali novih groženj je potrebna neprekinjena analiza velikih in kompleksnih naborov podatkov.

Vloga posrednika:

  • Ustvari hipoteze za lov na grožnje in poizvedbe po virih podatkov.
  • Iterira po velikih naborih podatkov, da prepozna sumljivo dejavnost.
  • Neprekinjeno izvaja preglede v ozadju za lov na nove grožnje.

Vloga analitika:

  • Potrjuje ugotovitve in določa poslovni vpliv.
  • Raziskuje dejavnost naprednih ali ciljnih kibernetskih napadov.
  • Natančneje določa strategije in prioritete lova na grožnje.

Odziv na dogodek in popravljanje/posodabljanje končne točke

Odzivanje na varnostne dogodke zahteva hitro usklajevanje med dejavnostmi zaznavanja, raziskave in zajezitve.

Vloga posrednika:

  • Avtomatizira zbiranje dokazov in dokumentacijo dogodkov.
  • Pripravi časovnice in povzame dejavnost kibernetskega napada.
  • Izvede ukrepe za zajezitev z odobritvijo analitikov.
  • Pomaga zaščititi končne točke in avtomatizirati poteke dela za odpravljanje ranljivosti.

Vloga analitika:

  • Odobri odzivne ukrepe z visoko stopnjo tveganja.
  • Nadzira prizadevanja za popravljanje/posodabljanje in obnovitev.
  • Usklajuje komunikacijo in pregled po dogodku.

Upravljanje ranljivosti in izpostavljenosti

Organizacije morajo prepoznati varnostne pomanjkljivosti in jim določiti prioriteto, preden jih izkoristijo akterji groženj.

Vloga posrednika:

  • Ranljivostim določi prioriteto glede na stopnjo tveganja in vrednost ogroženih sredstev.
  • Prepozna izpostavljenosti v okoljih oblaka, končnih točk in identitet.
  • Priporoči poti za popravljanje/posodabljanje in ukrepe za ublažitev.

Vloga analitika:

  • Določi prioritete za popravljanje/posodabljanje glede na poslovno tveganje.
  • Potrjuje priporočena dejanja.
  • Usklajuje prizadevanja za namestitev popravkov in zmanjševanje tveganja.

Varnost identitete in dostopa

Spremljanje dejavnosti identitet je ključno za zaznavanje nepooblaščenega dostopa in preprečevanje zlorabe pravic.

Vloga posrednika:

  • Zaznava neobičajne vzorce vpisa in dostopa.
  • Prepoznava tvegana dovoljenja in tveganja eskalacije pravic.
  • Nenehno spremlja grožnje, povezane z identiteto.

Vloga skrbnika identitete in dostopa:

  • Pregleduje dogodke dostopa z visokim tveganjem.
  • Odobri spremembe pravilnika ali dovoljenj.
  • Raziskuje morebitno dejavnost notranjega uporabnika ali ogroženosti računa.

Varnostno inženirstvo in razvoj zaznavanja

Varnostne ekipe morajo neprekinjeno graditi in izpopolnjevati logiko zaznavanja, da ostanejo na tekočem z razvijajočimi se grožnjami.

Vloga posrednika:

  • Piše in preizkuša logiko zaznavanja.
  • Potrjuje pokritost zaznavanja in prepozna vrzeli.
  • Predlaga izboljšave za prilagajanje, da zmanjša število napačnih pozitivnih prepoznav.

Vloga analitika:

  • Pregleduje in odobri posodobitve zaznavanja.
  • Usklajuje zaznavanja z organizacijskimi prioritetami.
  • Nadzira dolgoročno varnostno arhitekturo in strategijo.

Varnost podatkov in skladnost s predpisi

Zaščita občutljivih podatkov zahteva neprekinjeno spremljanje, razvrstitev in uveljavljanje varnostnih pravilnikov.

Vloga posrednika:

  • Raziskuje in prioritizira preprečitev izgube podatkov ter notranja tveganja.
  • Avtomatizira odkrivanje in analizo tveganj za občutljive podatke v različnih okoljih.
  • Prepoznava kršitve pravilnika in vrzeli v skladnosti.

Vloga skrbnika za varnost podatkov:

  • Pregleduje dogodke z visokim tveganjem za izpostavljenost podatkov.
  • Določa zahteve glede skladnosti in upravljanja.
  • Nadzira odločitve o popravljanju/posodabljanju in uveljavljanju pravilnikov.

Kako se agentna UI vključuje v poteke dela kibernetske varnosti

Agentna UI v kibernetski varnosti prinaša največjo vrednost, ko ekipam pomaga analizirati podatke, obogatiti opozorila ter se odzivati na ranljivosti in grožnje v celotnem okolju. Da bi to dosegli, organizacije uporabljajo vmesnike API za povezovanje varnostnih posrednikov z orodji, ki jih že uporabljajo, kot so SOAR, razširjeno odzivanje in zaznavanje (XDR), upravljanje stanja varnosti v oblaku (CSPM), upravljanje identitet in dostopa (IAM), upravljanje varnostnih informacij in dogodkov (SIEM), orodja za zaznavanje končnih točk in odzivanje nanje (EDR) ter rešitve za vstopnice. To omogoča sistemom z agentno UI, da pridobivajo informacije, usklajujejo poteke dela, sprožajo dejanja in posodabljajo sisteme v realnem času.

Avtomatizacija ekipam prihrani veliko časa, vendar je še vedno pomembno ohraniti nadzor in odgovornost, da se preprečijo nenamerna dejanja. Varnostne ekipe običajno zahtevajo, da analitiki pregledajo odločitve z visokim tveganjem, za dejanja z nižjim tveganjem pa omogočajo večjo avtonomijo. V obeh primerih je pomembno vzpostaviti upravljanje podatkov in nadzore dostopa, da se zagotovi, da UI sodeluje le z odobrenimi sistemi in podatki.

Merjenje uspeha – metrike in donosnost naložbe

Varnostne ekipe, ki z agentno UI dosegajo največji uspeh, uvedejo orodja za merjenje, s katerimi ocenijo, kako dobro dosegajo cilje. To jim da informacije, ki jih potrebujejo za prilagajanje in natančnejše določanje svojih uvedb.

Med glavnimi metrikami uspeha so:

Operativne metrike

Med podatki, ki pomagajo določiti učinkovitost varnostnih postopkov, so:

  • MTTD in MTTR.
  • Število opozoril, ki so samodejno razvrščena ali zaprta.
  • Zmanjšanje stopnje napačnih pozitivnih prepoznav.
  • Čas, potreben za raziskavo in razrešitev dogodkov.

Metrike zaposlenih

Te metrike vodstvu pokažejo, kako agentna UI spreminja način, kako varnostne ekipe porabljajo svoj čas:

  • Povrnjene ure analitika na področju ročne raziskave in razvrščanja.
  • Stopnja eskalacije za opozorila, ki zahtevajo posredovanje analitika.
  • Čas do sprejemanja novih analitikov s poteki dela, podprtimi z UI.
  • Zmanjšanje ponavljajočih se opravil ali opravil z nizko dodano vrednostjo.

Poslovne metrike

Vodje lahko vidijo tudi, kako varnostne izboljšave vplivajo na celotno organizacijo, z metrikami, kot so:

  • Strošek na varnostni dogodek.
  • Kritje v okoljih, identitetah, končnih točkah in virih v oblaku
  • Splošno stanje skladnosti in pripravljenost na revizijo.
  • Zmanjšanje izpostavljenosti operativnemu tveganju skozi čas.

Tveganja, omejitve in varnostni pomisleki

Ker agentni sistemi delujejo z različnimi ravnmi avtonomije, so upravljanje, preglednost in nadzor bistveni za varno uvedbo.

Operativna in tehnična tveganja

  • Senčni posredniki in neupravljana avtomatizacija. Ko se agentni sistemi širijo, lahko organizacije nenamerno ustvarijo neupravljane ali podvojene posrednike. Brez ustreznega nadzora lahko ti »senčni posredniki« povzročijo nedosledno vedenje ali nepooblaščena dejanja.
  • Halucinacije in napačne pozitivne prepoznave. Tako kot drugi sistemi UI lahko tudi agentna UI ustvari napačne zaključke ali napačno razume podatke, kar lahko brez preverjanja vodi do nepotrebnih opozoril ali napačnih dejanj.
  • Prekomerna avtomatizacija in izguba nadzora. Prevelika odvisnost od avtomatizacije lahko zmanjša pregled nad postopki odločanja, kar poveča tveganje za spregledan kontekst ali neustrezna dejanja.
  • Zasebnost podatkov in nadzor dostopa. Sistemi z agentno UI zahtevajo dostop do občutljivih varnostnih podatkov, zato so strogi nadzori nad dovoljenji, podatkovne meje in dostop z minimalnimi pravicami ključni.
  • Nihanje modela in zlonamerno manipuliranje. Sčasoma se lahko delovanje modela poslabša, ko se okolja spreminjajo. Poleg tega lahko kibernetski napadalci poskušajo manipulirati z rezultati ali metrikami, da bi vplivali na vedenje posrednika.

Pomisleki glede predpisov in skladnosti s predpisi

  • Ogrodje za upravljanje tveganja UI NIST (AI RMF) zagotavlja smernice za upravljanje tveganj, povezanih z UI, skozi celoten življenjski cikel, vključno z upravljanjem, preslikavo, merjenjem in upravljanjem.
  • ISO/IEC 42001 določa zahteve za sistem za upravljanje UI s poudarkom na odgovornem razvoju in uporabi sistemov UI.
  • Zakon EU o umetni inteligenci uvaja razvrstitev na osnovi tveganja in zahteve glede skladnosti za sisteme UI, ki delujejo v Evropski uniji ali nanjo vplivajo.
  • Predpisi, specifični za posamezne sektorje, so posebne zahteve za nekatere panoge, kot so Health Insurance Portability and Accountability Act (HIPAA) za zaščito zdravstvenih podatkov, standard varnosti podatkov industrije plačilnih kartic (PCI DSS) za varnost plačil in zakon Sarbanes-Oxley (SOX) za nadzor finančnega poročanja.

Oblikovanje odgovorne strategije za agentno UI

Ko varnostne ekipe uvajajo in širijo agentno UI za kibernetsko varnost v svojih organizacijah, premišljena strategija pomaga izboljšati varnostne rezultate, hkrati pa ohranja preglednost, odgovornost in zaupanje med ekipami.

Načela za varno uvajanje

Organizacije agentno UI običajno uvajajo v nadzorovanih fazah, pri čemer začnejo s pomožnimi primeri uporabe z nizkim tveganjem, nato pa se razširijo na dejanja z večjim vplivom. Pomembno je tudi dati prednost preglednosti pri tem, kako varnostni posredniki sprejemajo odločitve.

Varovala in poteki dela odobritve

Dobro opredeljene varovalke pomagajo omejiti vedenje posrednika na varne in pričakovane meje. Da bi zmanjšale tveganje nepričakovanega vedenja, ekipe določijo, katera dejanja lahko posredniki UI za kibernetsko varnost opravijo samostojno, vzpostavijo poteke dela odobritve za postopke z velikim vplivom ali občutljive postopke in določijo prage, pri katerih morajo varnostni posredniki primere posredovati analitikom.

Dostop za posrednike UI na osnovi vlog

Nadzor dostopa na osnovi vlog (RBAC) pomaga zmanjšati tveganje nenamerne dejavnosti, saj omeji dostop posrednika do sistemov, podatkov in dejanj, ki so potrebni za njegovo posebno funkcijo. Zato identitetne ekipe za posrednike uporabljajo enaka načela minimalnih pravic kot za ljudi.

Spremljanje in nadzor dejanj posrednikov

Da ohranijo vidljivost vedenja posrednika, varnostne ekipe beležijo in revidirajo vsa dejanja posrednika, vključno z odločitvami, uporabo orodij in rezultati. To jim pomaga raziskati dogodke, izpolnjevati zahteve glede skladnosti in zaznati težave pri uvedbi, ki jih je treba natančneje prilagoditi.

Vzpostavljanje zaupanja pri analitikih

Analitiki bodo bolj verjetno sprejeli agentno UI, če se bodo počutili obveščene in bodo imeli nadzor. Organizacije lahko zaupanje vzpostavijo tako, da poskrbijo, da so priporočila posrednikov jasna in preprosto razumljiva. Poleg tega imajo več uspeha, ko z UI dopolnjujejo, ne pa nadomeščajo, odločanje analitikov.

Usklajenost med različnimi funkcijami

Središča za varnostne postopke (SOC), oddelki IT in ekipe za skladnost so pomembni pri uvajanju agentne UI na varen in učinkovit način, ki je v skladu s toleranco za tveganje organizacije. Meddisciplinarna ekipa organizacijam pomaga opredeliti operativne primere uporabe, upravljati integracijo in infrastrukturo ter izpolnjevati regulativne zahteve.

Od avtomatizacije do agentne varnosti

Vzpostavljanje popolnoma agentnih potekov dela, ki delujejo med varnostnimi domenami, je večstopenjski proces. Ko organizacije povečujejo svojo operativno zrelost, potrebujejo močnejše upravljanje in nadzor.

1. stopnja: skriptna avtomatizacija

Na najzgodnejši stopnji organizacije uporabljajo vnaprej določene skripte in poteke dela za obravnavo ponavljajočih se varnostnih opravil.

Kako je videti uspeh:

  • Dosledno dokončanje rutinskih opravil, kot sta obogatitev opozoril ali ustvarjanje vstopnice.
  • Manj ročnega dela v potekih dela z nizko zahtevnostjo.
  • Odvisnost od statičnih pravil in postopkovnih priročnikov.

Kazalniki pripravljenosti:

  • Stabilne integracije rešitve SIEM, rešitve SOAR in ustvarjanja vstopnic.
  • Jasno opredeljeni in ponovljivi varnostni postopki.
  • Veliko število ponavljajočih se opravil analitikov.

2. stopnja: analiza s podporo UI

Na tej stopnji UI podpira analitike z izboljšanjem vidljivosti, povzemanja in odločanja, vendar ne izvaja neposrednih dejanj.

Kako je videti uspeh:

  • Hitrejša raziskava s povzetki in vpogledi, ustvarjenimi z UI.
  • Izboljšano razumevanje opozoril in obogatitev konteksta.
  • Analitiki ostajajo v celoti odgovorni za odločitve in dejanja.

Kazalniki pripravljenosti:

  • Zreli podatkovni cevovodi in centralizirane metrike.
  • Vzpostavljeni procesi varnostnih postopkov.
  • Potreba po hitrejši podpori pri razvrstitvi in raziskavi.

3. stopnja: polavtonomni posredniki

Tukaj agentna UI začne izvajati omejena dejanja v okviru določenih varoval, ljudje pa ohranijo pooblastila za odobritev za postopke z večjim tveganjem.

Kako je videti uspeh:

  • Samodejna razvrstitev, obogatitev in priporočeni koraki za popravljanje/posodabljanje.
  • Manjša delovna obremenitev analitikov pri ponavljajočih se raziskovalnih opravilih.
  • Odobritev s človekom v zanki za dejanja za zajezitev in popravljanje/posodabljanje.

Kazalniki pripravljenosti:

  • Robustni nadzori identitete in dostopa za sisteme za avtomatizacijo.
  • Dobro opredeljeni poteki dela za eskalacijo in odobritev.
  • Zaupanje v kakovost podatkov in sistemske integracije.

4. stopnja: popolnoma agentni poteki dela

Na najbolj zreli stopnji agentna UI deluje v več domenah in usklajuje dejanja z minimalnim posegom analitika v okviru določenih meja. To omogoča celovito varnostno orkestracijo v celotni organizaciji.

Kako je videti uspeh:

  • Neprekinjeno avtonomno zaznavanje, raziskovanje in odzivanje v različnih okoljih.
  • Meddomensko usklajevanje med sistemi za varnost, IT, identiteto in skladnost.
  • Ljudje se osredotočajo na upravljanje, strategijo in obravnavo izjem.

Kazalniki pripravljenosti:

  • Zrela ogrodja upravljanja za UI in avtomatizacijo.
  • Metrike z visoko stopnjo zaupanja in celovitost podatkov v različnih sistemih.
  • Močna medfunkcijska usklajenost med ekipami za varnost, IT in skladnost.
  • Vzpostavljeno zaupanje v avtomatizirano sprejemanje odločitev z možnostjo revizije in nadzorom.

Trendi na področju agentne UI v kibernetski varnosti

Agentna UI je še vedno v zgodnji fazi uvajanja, vendar več jasnih trendov oblikuje njen razvoj na področju varnosti.

  • Avtonomne rdeče ekipe. Posredniki UI bodo vse bolj posnemali vedenje napadalcev, da bodo nenehno preizkušali obrambo, prepoznavali slabosti in potrjevali varnostne nadzore v realnem času.
  • Zanke posrednikov. Agentna UI za varnostne postopke bo postala vse bolj neprekinjena in samoizboljšujoča, posredniki pa bodo zaznavali rezultate ter ukrepali in se učili na podlagi teh z namenom izboljšanja zaznavanja in odziva.
  • Kibernetski spor med UI. Ker tudi kibernetski napadalci uvajajo UI, lahko prihodnji kibernetski spopadi vključujejo obrambne in napadalne agentne sisteme, ki bodo neposredno tekmovali med seboj.
  • Napovedna obramba. Namesto da bi se odzivali na dogodke, bodo agentni sistemi grožnje predvideli z analizo vzorcev, podatkov o izpostavljenosti in vedenja napadalcev, da bi preprečili kibernetske napade, še preden se zgodijo.
  • Sodelujoči posredniki UI. Več specializiranih posrednikov bo usklajevalo opravila, kot so zaznavanje, raziskava, popravljanje/posodabljanje in poročanje, da bodo ustvarili bolj razširljive in odporne varnostne poteke dela.
  • Razvijajoča se vloga analitika. Analitiki se bodo od ponavljajočih se opravil raziskovanja in odzivanja premaknili k pomembnejšim odgovornostim, kot so nadzor posrednikov, načrtovanje pravilnikov in strateško upravljanje tveganj.

Microsoftova varnost in agentna UI

Organizacije lahko zaznajo in raziskujejo grožnje v celotnem digitalnem okolju ter se odzovejo nanje z Microsoftovo poenoteno varnostno platformo, ki uporablja UI. V središču je Microsoft Security Copilot, varnostna rešitev z UI in naravnim jezikom, ki analitikom omogoča sklepanje o dogodkih, povzemanje groženj in usklajevanje odzivnih dejanj v različnih okoljih. Vdelani posredniki te zmogljivosti razširjajo v rešitve Microsoftove varnosti.

Microsoft Defender XDR: agentni postopki središča za varnostne postopke

Varnostne ekipe so pogosto preobremenjene s količino opozoril, ročnimi razvrščanjem in fragmentiranimi raziskavami. V rešitvi Microsoft Defender XDR agentna UI pomaga določiti prednostno obravnavo težav z visokim tveganjem, hitreje raziskati dogodke in izboljšati učinkovitost odzivanja.

  • Posrednik za razvrščanje varnostnih opozoril – določa prednost opozoril, da zmanjša šum in analitikom pomaga, da se hitreje osredotočijo na dogodke z visoko stopnjo tveganja.
  • Posrednik varnostni analist – raziskuje dogodke, povezuje signale in priporoča odzivne ukrepe za poenostavitev potekov dela središča za varnostne postopke.
  • Posrednik za lov na grožnje – išče po vseh okoljih, da odkrije skrite grožnje, sumljivo vedenje in nove vzorce napadov.
  • Posrednik za dinamično zaznavanje groženj – nenehno analizira dejavnost in prilagaja logiko zaznavanja, da prepozna razvijajoče se grožnje in nepravilnosti.
  • Posrednik za pregled informacij o grožnjah – povzema informacije o kibernetskih grožnjah v uporabne vpoglede, da ekipe ostanejo na tekočem z novimi tveganji.

Skupaj ti posredniki pomagajo zmanjšati ročno raziskovanje in pospešiti odziv na dogodek v končnih točkah, identitetah, e-pošti in delovnih obremenitvah v oblaku.

Microsoft Sentinel: zaznavanje, lov na grožnje in orkestracija s pomočjo UI

V rešitvi Microsoft Sentinel Security Copilot pomaga analitikom preiti z ročnega raziskovanja na poteke dela, ki temeljijo na naravnem jeziku in skupini pozivov. Analitiki lahko ustvarijo KQL, povzamejo dogodke, obogatijo entitete, analizirajo uporabnike in naprave ter avtomatizirajo korake raziskave s storitvijo Logic Apps in skupinami pozivov.

Prilagojeni posrednik za poročanje o dogodkih Sentinel lahko iz dogodkov izlušči ugotovitve raziskave, entitete, vpoglede in korake za popravljanje/posodabljanje. Skupine pozivov lahko avtomatizirajo tudi analizo uporabnikov in neposredno dodajo ugotovitve v dnevnike dejavnosti dogodka.

Te zmogljivosti pomagajo zmanjšati ročno pisanje poizvedb, izboljšati doslednost raziskav in prihraniti čas analitikov z avtomatizacijo ponovljivih opravil.

Microsoft Purview: agentna varnost podatkov in skladnost

V rešitvi Microsoft Purview Security Copilot pomaga ekipam zaščititi in upravljati podatke v Upravljanju stanja varnosti podatkov, Preprečitvi izgube podatkov, Upravljanju notranjega tveganja, E-odkrivanju, Nadzoru in Skladnosti komunikacije.

  • Posrednik za razvrščanje varnosti podatkov – daje prednost opozorilom preprečitve izgube podatkov in notranjega tveganja, pojasni kontekst tveganja in lahko sproži poteke dela za popravljanje/posodabljanje z lastniki podatkov.
  • Posrednik za stanje varnosti podatkov – odkriva občutljive podatke, prepoznava skrita tveganja in razkrite poverilnice, izboljšuje označevanje občutljivosti in ustvarja povzetke, pripravljene za vodstvo.

Ti posredniki pomagajo varnostnim ekipam zmanjšati ročno razvrščanje, hitreje določiti prednost kritičnih tveganj ter okrepiti postopke varnosti podatkov in skladnosti.

Microsoft Entra: posredniki za identiteto in dostop

V storitvi Microsoft Entra Security Copilot pomaga ekipam raziskati tvegane uporabnike, nenavadne vpise, prednostni dostop in grožnje, povezane z identiteto. Copilot lahko povzame kontekst identitete, pojasni signale tveganja in priporoči ukrepe, kot so preklic seje, pregledi dostopa ali prilagajanje pravilnika o pogojnem dostopu.

Zmogljivosti vključujejo posrednike za identiteto in dostop ter Microsoft Entra ID za posrednike, ki organizacijam pomaga registrirati, upravljati in urejati identitete posrednikov UI z upravljanjem življenjskega cikla, upravljanjem dostopa in nadzori za zaščito identitete.

Te zmogljivosti organizacijam pomagajo zmanjšati tveganje identitete in uporabljati načela modela Ničelno zaupanje za človeške identitete in identitete UI.

Microsoft Intune: posredniki za upravljanje končnih točk

V rešitvi Microsoft Intune Security Copilot pomaga ekipam za končne točke in IT razumeti skladnost naprave, odstopanje od konfiguracije, izpostavljenost ranljivostim in potrebe po popravljanju/posodabljanju. Copilot lahko povzame tveganje naprave, pojasni težave z neskladnostjo, priporoči naslednje korake in ekipam pomaga, da se hitreje odzovejo.

Posredniki za upravljanje končnih točk pomagajo avtomatizirati preverjanja skladnosti, raziskati težave z napravami in usmerjati popravljanje/posodabljanje v upravljanih končnih točkah.

Te zmogljivosti pomagajo zmanjšati ročno raziskovanje končnih točk, izboljšati postopke skladnosti in hitreje odpraviti vrzeli v konfiguraciji.

Skupaj Microsoft Security Copilot in vdelani posredniki pomagajo organizacijam preiti z reaktivnih, ročnih varnostnih postopkov na prilagodljivo obrambo, podprto z UI, ki izboljšuje zaščito, hitrost in obseg v celotnem varnostnem življenjskem ciklu.

Pogosta vprašanja

  • Agentna UI se nanaša na sisteme UI z avtonomijo in zmogljivostmi sklepanja, ki z minimalnimi pozivi zasledujejo določene cilje. Za razliko od tradicionalne avtomatizacije se ti sistemi lahko prilagodijo spreminjajočim se pogojem, načrtujejo večstopenjske poteke dela in se iz rezultatov nenehno učijo za izboljšanje delovanja.
  • Generativna UI ustvarja vsebino, kot so besedilo, povzetki ali koda, kot odgovor na pozive, agentna UI pa načrtuje in izvaja dejanja za izpolnjevanje določenih varnostnih ciljev.
  • Agentna UI v kibernetski varnosti pomeni uvajanje posrednikov, ki samostojno analizirajo podatke, raziskujejo nepravilnosti in usklajujejo varnostne poteke dela od začetka do konca.
  • Pogost primer agentne UI v varnosti je posrednik za razvrščanje opozoril v središču za varnostne postopke, ki samodejno obogati varnostna opozorila s podatki v kontekstu, izračuna ocene tveganja in priporoči naslednje korake za ublažitev.
  • Rešitve za avtomatiziran odziv varnostne orkestracije (SOAR) temeljijo na vnaprej določenih, statičnih postopkovnih priročnikih za avtomatizacijo dejanj odziva, zato so zelo postopkovne in omejeno prilagodljive. Nasprotno pa agentna UI analizira kontekst, dinamično prilagaja poteke dela in se nenehno uči, kar ji omogoča obravnavo zapletenih ali razvijajočih se scenarijev kibernetskih napadov, ne da bi se morala zanašati na toga pravila orkestracije.

Spremljajte Microsoftovo varnost

Slovenščina (Slovenija) Zasebnost o zdravstvenem stanju potrošnikov Obrnite se na Microsoft Zasebnost Upravljanje piškotkov Pogoji za uporabo Blagovne znamke O naših oglasih EU Compliance DoCs