This is the Trace Id: e6f2fc6ac72f4218c70b425ce4eafdfe
Pređi na glavni sadržaj Microsoft Defender Microsoft Entra Microsoft Intune Project Perception Microsoft Purview Microsoft Sentinel SIEM Pogledajte sve proizvode Kibernetička bezbednost koja koristi veštačku inteligenciju Bezbednost u oblaku Bezbednost i upravljanje Pristup identitetu i mreži Bezbednost za veštačku inteligenciju Mala i srednja preduzeća Integrisane bezbednosne operacije Nulta pouzdanost Cene Usluge Partneri Zašto koristiti Microsoft bezbednost? Svest o kibernetičkoj bezbednosti Priče klijenata Security 101 Probne verzije proizvoda Priznanje u okviru delatnosti Microsoft Security Insider Microsoft izveštaj o digitalnoj odbrani Security Response Center Blog o Microsoft bezbednosti Microsoft događaji vezani za bezbednost Microsoft Tech Community Dokumentacija Biblioteka tehničkog sadržaja Obuka i certifikacije Program za usaglašenost za Microsoft oblak Microsoft centar za pouzdanost Portal za pouzdanost usluga Microsoft Inicijativa za bezbednu budućnost Čvorište za poslovna rešenja Obratite se prodaji Microsoft Security Azure Dynamics 365 Microsoft 365 Microsoft Teams Windows 365 Microsoft AI Azure Space Mešovita realnost Microsoft HoloLens Microsoft Viva Kvantno računarstvo Education Automobili Finansijske usluge Vlada Zdravstvo Proizvodnja Maloprodaja Pronađite partnera Postanite partner Partnerske mreže Microsoft Marketplace Softverska preduzeća Blog Microsoft Advertising Razvojni centar Documentation Events Licensing Microsoft Learn Microsoft Research Prikaži mapu lokacije

Šta je agentna AI u kibernetičkoj bezbednosti?

Agentna AI u kibernetičkoj bezbednosti predstavlja upotrebu autonomnih agenata za otkrivanje i istraživanje pretnji i reagovanje na njih uz minimalno ljudsko učešće.
Microsoft izveštaj o digitalnoj bezbednosti za 2024. godinu: Osnove i nove granice kibernetičke bezbednosti

Agent za kibernetičku bezbednosni je mogućnost zasnovana na AI koja je osmišljena da autonomno pomaže bezbednosnim timovima. Agentna AI u kibernetičkoj bezbednosti odnosi se konkretno na to kako se ti agenti koriste za otkrivanje i istraživanje kibernetičkih pretnji i reagovanje na njih.

Pošto akteri pretnji sve više koriste automatizaciju da ubrzaju svoje kibernetičke napade, bezbednosni timovi uvode agente u različitim scenarijima kako bi brže reagovali i bili korak ispred novih rizika.

Glavni zaključci

  • Agentna AI u kibernetičkoj bezbednosti autonomno teži ciljevima koristeći rezonovanje, planiranje i kontinuirano učenje za izvršavanje zadataka sa više koraka.
  • Bezbednosni timovi usvajaju agentnu AI kako bi pomogli u rešavanju rastućih izazova u kibernetičkoj bezbednosti, uključujući prevelik broj upozorenja, brže napade potpomognute AI tehnologijom, zamor analitičara i složena hibridna okruženja.
  • Agentna AI može da unapredi bezbednosne operacije tako što ubrzava otkrivanje i reagovanje na pretnje, smanjuje ponavljajući rad analitičara, poboljšava prioritizaciju i obezbeđuje dosledniju i skalabilniju bezbednosnu pokrivenost.
  • AI agenti su osmišljeni da pomažu u specijalizovanim tokovima posla u kritičnim oblastima kao što su phishing, bezbednost podataka i upravljanje identitetima.
  • Organizacije koriste zaštitne mehanizme, tokove odobravanja, kontrole pristupa zasnovane na ulogama i reviziju kako bi pomogle da agentna AI radi bezbedno, transparentno i u okviru definisanih granica.
  • Većina organizacija uvodi agentnu AI postepeno, počevši od tokova posla u kojima je potreban dodatni kapacitet tima. Timovi prelaze sa skriptovane automatizacije i analize potpomognute AI ka autonomnijim tokovima posla kako se upravljanje i operativna zrelost poboljšavaju.

Šta čini AI agentnim?

Agentna AI se razlikuje od tradicionalnih modela mašinskog učenja, generativne AI i alatki za automatizaciju zato što nezavisno teži ciljevima i prilagođava se promenljivim uslovima. To se razlikuje od tradicionalnih modela mašinskog učenja, koji prvenstveno analiziraju podatke i prave predviđanja, ali ne deluju na osnovu tih saznanja. Generativna AI kreira sadržaj kao odgovor na konverzacione unose, ali ljudi moraju da je nastave podsticati da bi se rezultati doradili. A alatke za automatizaciju, kao što su priručnici za bezbednosnu orkestraciju, automatizaciju i odgovor (SOAR), prate unapred definisane tokove rada i pravila. Agentna AI, za razliku od toga, izvršava zadatke sa više koraka uz ograničeno ljudsko učešće.

Nekoliko ključnih karakteristika čini AI agentnim:

  • Autonomija. Agentni AI sistemi mogu da rade sa različitim nivoima ljudskog učešća, od stalnog ljudskog nadzora do autonomnijeg izvršavanja u okviru definisanih granica.
  • Usmerenost ka cilju. Aktivno teži definisanim ishodima, kao što su otkrivanje pretnji, ublažavanje ranjivosti ili poboljšanje stanja bezbednosti.
  • Rezonovanje i planiranje. Može da koordinira procese sa više koraka, rezonuje kroz niz radnji i kreira planove za postizanje svojih ciljeva.
  • Memorija.Agentni sistemi zadržavaju kontekst iz prethodnih interakcija, događaja i odluka kako bi mogli da donose informisanije izbore tokom vremena.
  • Kontinuirano učenje i prilagođavanje. Agentna AI uči iz novih podataka, prilagođava strategije na osnovu konteksta i vremenom poboljšava svoju efikasnost.

Ljudski nadzor u sistemima agentnog AI-ja

Agentni AI sistemi su često osmišljeni sa ugrađenim ljudskim nadzorom kako bi se uspostavila ravnoteža između autonomije i kontrole.

U Microsoft pristupu agentnoj AI za sajber bezbednost, to je osmišljeno kao kolaborativni model u kojem ljudski operateri mogu da nadgledaju i usmeravaju ponašanje sistema.

Neki od najčešćih primera:

  • Transparentno rezonovanje. Microsoft sistemi pružaju prateći kontekst i obrazloženje uz preporuke kako bi pomogli analitičarima da razumeju izlazne podatke sistema i puteve odlučivanja.
  • Odobravanje i prilagođavanje. Timovi mogu da pregledaju, odobre, odbiju ili fino prilagode sistemske radnje, uključujući povratne informacije kako bi se ishodi kontinuirano poboljšavali.
  • Kontrole koje se mogu revidirati. Aktivnosti su regulisane bezbednosnim kontrolama na nivou preduzeća, kao što su pristup zasnovan na ulogama, evidencije nadzora i zaštitne mere tokova posla, kako bi se podržali odgovornost i zahtevi usaglašenosti.

Kako agentni AI funkcioniše

Agentna AI može dinamički da odgovara na promenljive uslove i prilagođava svoje ponašanje na osnovu konteksta zahvaljujući procesu koji se zove agentna petlja – nizu koraka koje agent ponavlja dok ne ostvari svoj cilj.

Percepcija → Rezonovanje → Planiranje → Delovanje → Učenje

  • Percepcija. Sistem prikuplja informacije iz svog okruženja, uključujući dnevnike, upozorenja, korisničku aktivnost, obaveštajne podatke o pretnjama i podatke iz povezanih alatki i sistema.
  • Razlog. On analizira informacije, identifikuje obrasce, procenjuje rizike i određuje šta podaci znače u kontekstu.
  • Plan. Na osnovu svojih ciljeva, sistem razvija niz radnji kako bi postigao željeni ishod.
  • Delovanje. Agent izvršava zadatke, kao što su izolovanje uređaja, otvaranje prijave, eskalacija upozorenja ili prikupljanje dodatnih dokaza, tako što vrši interakciju sa alatkama, sistemima ili tokovima posla.
  • Saznajte. Sistem procenjuje rezultate svojih radnji i koristi povratne informacije, nove podatke i prethodne ishode da bi poboljšao buduće odluke i reakcije.

Da bi agentna AI efikasno funkcionisala, timovi takođe treba da odluče da li žele da koriste sistem sa jednim agentom ili sistem sa više agenata. Sistem sa jednim agentom oslanja se na jednog agenta za upravljanje zadacima i odlukama, što dobro funkcioniše kada su tokovi posla relativno ograničeni, a odluke centralizovane. Ako su tokovi posla složeni ili zahtevaju različite vrste stručnosti, organizacije često postavljaju sistem sa više agenata koji koristi više specijalizovanih AI agenata za kibernetičku bezbednost koji zajedno rade ka zajedničkom cilju.

Čak i uz autonomne mogućnosti, nadzor ljudi ostaje važan. Mnoge organizacije koriste kontrolne tačke sa uključivanjem čoveka u petlju i zahteve za odobrenje za osetljive ili visokorizične radnje kako bi pomogle u održavanju upravljanja, odgovornosti i operativne kontrole.

Agentni AI u odnosu na generativni AI u odnosu na SOAR u odnosu na tradicionalno mašinsko učenje

Razlike između tradicionalne automatizacije, generativne AI i agentne AI postaju jasnije kada se uporede kroz ključne dimenzije.

Dimenzija
Tradicionalni ML / SOAR
Generativni AI
Agentski AI
Autonomija
Zasnovano na pravilima, skriptovano
Odgovara na odzive
Deluje autonomno ka definisanim ciljevima
Donošenje odluka
Unapred definisana logika
Generiše odgovore i sadržaj
Planira, rezonuje i preduzima radnje
UčenjeStatični modeli, periodično ponovno obučavanje
Samo u kontekstu, bez trajnog učenja
Kontinuirano prilagođavanje uz uvažavanje konteksta
Ljudsko učešće
Ljudi pokreću tok posla
Ljudi unose odzive i pregledaju rezultat
Ljudi postavljaju ciljeve i zaštitne mere
Tipična upotreba u SOC-u
Otkrivanje potpisa i SOAR priručnici
Analitičar Q&A i rezimiranje
Sveobuhvatna trijaža, potraga i odgovor

Zašto agentna AI rešava sve za kibernetičku bezbednost

Nažalost, nisu samo preduzeća i vlade ti koji usvajaju AI velikom brzinom. Akteri pretnji koriste agentne sisteme da povećaju brzinu i obim svojih sajber napada, što kreira ili pogoršava nekoliko izazova u kibernetičkoj bezbednosti, uključujući:

  • Izazov sa obimom. Bezbednosni timovi se često suočavaju sa prevelikim brojem upozorenja, rastućom složenošću podataka i stalnim nedostatkom analitičara.
  • Izazov sa brzinom . Napadači u kibernetičkom prostoru sve više automatizuju svoje operacije, dok se mnogi branioci i dalje oslanjaju na ručno trijažiranje i procesi reagovanja na incidente.
  • Izazov sa pouzdanošću i tačnošću . Produžena izloženost noćnim smenama i velikom broju ponavljajućih zadataka može dovesti do zamora i sagorevanja analitičara, povećavajući rizik od nedoslednosti i ljudske greške.
  • Izazov sa otpornosti. Savremene organizacije posluju u hibridnim okruženjima koja obuhvataju platforme u oblaku, krajnje tačke, identitete, aplikacije i usluge nezavisnih proizvođača. Ova šireća površina napada povećava operativni rizik i kreira više prilika za napadače u kibernetičkom prostoru.

Agentna AI u kibernetičkoj bezbednosti pomaže bezbednosnim timovima da efikasnije rade u okruženjima koja postaju previše složena, dinamična i međusobno povezana za potpuno ručne bezbednosne operacije (SecOps). To se razlikuje od šire bezbednosti agentne AI, koja je usmerena na zaštitu samih AI sistema.

Pogodnosti agentne AI u kibernetičkoj bezbednosti

Umesto da zamenjuje bezbednosne timove, agentna AI deluje kao pojačivač efekta u okviru operacija kibernetičke bezbednosti, što donosi prednosti kao što su:

  • Brže srednje vreme za otkrivanje i reagovanje (MTTD/MTTR). Agentski AI može da istražuje upozorenja, povezuje signale i brzo koordinira aktivnosti odgovora, pomažući timovima da smanje vreme otkrivanja i reagovanja.
  • Manji zamor analitičara i više vremena za rad visoke vrednosti. Preuzimanjem ponavljajućih i vremenski zahtevnih zadataka, agentska AI pomaže da se smanji zamor od upozorenja i omogućava analitičarima da se usredsrede na strateškija istraživanja i donošenje odluka.
  • Dosledno, ponovljivo trijažiranje i reagovanje. Agentska AI dosledno primenjuje tokove posla i procese na svim incidentima, poboljšavajući operativnu pouzdanost smanjenjem varijabilnosti koju izazivaju ručne operacije.
  • Dostupnost neprekidno tokom celog dana i elastična skalabilnost. Za razliku od ljudskih timova, agentic AI može neprekidno da radi i da se skalira za obradu velikih količina upozorenja, događaja i podataka bez potrebe za dodatnim osobljem.
  • Bolji odnos signala i šuma i bolje određivanje prioriteta. Agentski AI može da analizira velike količine kontekstualnih podataka kako bi pomogao da se identifikuju najvažnije pretnje, smanjujući nepotrebna upozorenja i poboljšavajući određivanje prioriteta.
  • Veća otpornost i proaktivno upravljanje rizicima. Agentska AI može neprekidno da nadgleda okruženja, identifikuje potencijalne slabosti i podržava proaktivne bezbednosne mere koje pomažu organizacijama da smanje rizik i vremenom poboljšaju operativnu otpornost.

Ključni slučajevi upotrebe agentske AI u bezbednosnim operacijama

Nekoliko slučajeva upotrebe pokazuje kako ljudi i agenti mogu da rade zajedno na jačanju bezbednosti.

Trijaža upozorenja i određivanje prioriteta

Bezbednosni timovi se često suočavaju sa većim brojem upozorenja nego što mogu da istraže ručno, pa je određivanje prioriteta ključno za efikasan odgovor.

Uloga agenta:

  • Obogaćuje upozorenja podacima o obaveštajnim informacijama o pretnjama, kontekstu resursa i ponašanju korisnika.
  • Određuje prioritet incidenata na osnovu rizika i ocene pouzdanosti.
  • Preporučuje sledeće korake za istragu ili otklanjanje.

Uloga analitičara:

  • Pregleda incidente visokog prioriteta.
  • Validira nalaze i odluke o eskalaciji.
  • Obrađuje složene ili osetljive istrage.

Informacije o pretnjama

Bezbednosni timovi se oslanjaju na velike količine podataka o pretnjama, zbog čega je teško brzo izdvojiti relevantne i primenljive uvide.

Uloga agenta:

  • Prikuplja i sažima obaveštajne informacije o pretnjama iz više izvora.
  • Obezbeđuje situacionu svest u realnom vremenu i brzo izveštavanje.
  • Korelira aktivnosti pretnji u različitim okruženjima.

Uloga analitičara:

  • Tumači strateški rizik i trendove pretnji.
  • Validira relevantnost i uticaj obaveštajnih podataka.
  • Usmerava prioritete odgovora i planiranje.

Potraga za kibernetičkim pretnjama

Prepoznavanje skrivenih ili novih pretnji zahteva kontinuiranu analizu velikih i složenih skupova podataka.

Uloga agenta:

  • Generiše hipoteze za potragu za pretnjama i upite ka izvorima podataka.
  • Iterira kroz velike skupove podataka kako bi identifikovao sumnjivu aktivnost.
  • Obavlja neprekidne pozadinske pretrage za nove pretnje.

Uloga analitičara:

  • Validira nalaze i određuje poslovni uticaj.
  • Istražuje naprednu ili ciljanu aktivnost kibernetičkog napada.
  • Dorađuje strategije i prioritete potrage za pretnjama.

Odgovor na incidente i otklanjanje problema na krajnjim tačkama

Reagovanje na bezbednosne incidente zahteva brzu koordinaciju između aktivnosti otkrivanja, istrage i ograničavanja.

Uloga agenta:

  • Automatizuje prikupljanje dokaza i dokumentovanje incidenta.
  • Priprema vremenske linije i sažima aktivnost kibernetičkog napada.
  • Završava radnje ograničavanja uz odobrenje analitičara.
  • Pomaže u zaštiti krajnjih tačaka i automatizaciji tokova posla za otklanjanje ranjivosti.

Ul oga analitičara:

  • Odobrava radnje odziva visokog rizika.
  • Nadgleda napore za otklanjanje problema i oporavak.
  • Koordinira komunikaciju i pregled nakon incidenta.

Upravljanje ranjivostima i izloženostima

Organizacije moraju da identifikuju i odrede prioritet bezbednosnih slabosti pre nego što ih akteri pretnji iskoriste.

Uloga agenta:

  • Određuje prioritet ranjivosti na osnovu nivoa rizika i vrednosti resursa koji su izloženi riziku.
  • Identifikuje izloženosti u okruženjima oblaka, krajnjih tačaka i identiteta.
  • Preporučuje puteve za otklanjanje i mere ublažavanja.

Uloga analitičara:

  • Određuje prioritete za otklanjanje na osnovu poslovnog rizika.
  • Validira preporučene radnje.
  • Koordinira napore za primenu zakrpa i smanjenje rizika.

Identitet i bezbednost pristupa

Nadgledanje aktivnosti identiteta ključno je za otkrivanje neovlašćenog pristupa i sprečavanje zloupotrebe privilegija.

Uloga agenta:

  • Otkriva neuobičajene obrasce prijavljivanja i pristupa.
  • Identifikuje rizične dozvole i rizike od eskalacije privilegija.
  • Kontinuirano nadgleda pretnje povezane sa identitetom.

Uloga administratora identiteta i pristupa:

  • Pregleda događaje sa visokim rizikom pristupa.
  • Odobrava promene pravila ili dozvola.
  • Istražuje potencijalnu aktivnost unutrašnje pretnje ili ugrožavanja naloga.

Bezbednosno inženjerstvo i razvoj otkrivanja

Bezbednosni timovi moraju neprekidno da grade i usavršavaju logiku otkrivanja kako bi držali korak sa evoluirajućim pretnjama.

Uloga agenta:

  • Piše i testira logiku otkrivanja.
  • Validira pokrivenost otkrivanja i identifikuje praznine.
  • Predlaže poboljšanja podešavanja da bi se smanjio broj lažnih pozitivnih rezultata.

Uloga analitičara:

  • Pregleda i odobrava ažuriranja otkrivanja.
  • Usaglašava otkrivanja sa organizacionim prioritetima.
  • Nadgleda dugoročnu bezbednosnu arhitekturu i strategiju.

Bezbednost i usaglašenost podataka

Zaštita osetljivih podataka zahteva kontinuirano nadgledanje, klasifikaciju i sprovođenje bezbednosnih smernica.

Uloga agenta:

  • Istražuje i određuje prioritet rizika od sprečavanja gubitka podataka i rizika od unutrašnje pretnje.
  • Automatizuje otkrivanje i analizu rizika za osetljive podatke u različitim okruženjima.
  • Identifikuje kršenja pravila i propuste u usaglašenosti.

Uloga administratora bezbednosti podataka:

  • Pregleda događaje visoke izloženosti podataka.
  • Utvrđuje zahteve za usaglašenost i upravljanje.
  • Nadgleda odluke o otklanjanju i sprovođenju smernica.

Kako agentska AI integriše se u tokove rada u kibernetičkoj bezbednosti

Agentska AI u kibernetičkoj bezbednosti pruža najveću vrednost kada pomaže timovima da analiziraju podatke, obogate upozorenja i reaguju na ranjivosti i pretnje u celom okruženju. Da bi to postigle, organizacije koriste API-je za povezivanje bezbednosnih agenata sa alatkama koje već koriste, kao što su SOAR, prošireno otkrivanje i reagovanje (XDR), upravljanje stanjem bezbednosti u oblaku (CSPM), upravljanje identitetima i pristupom (IAM), upravljanje informacijama i događajima bezbednosti (SIEM), alatke za otkrivanje i reagovanje na krajnjim tačkama (EDR) i rešenja za izdavanje i praćenje tiketa. To omogućava sistemima agentske AI da preuzimaju informacije, koordiniraju tokove posla, pokreću radnje i ažuriraju sisteme u realnom vremenu.

Automatizacija timovima štedi mnogo vremena, ali i dalje je važno održavati kontrolu i odgovornost da bi se izbegle neželjene radnje. Timovima za bezbednost obično je potrebno da analitičari pregledaju odluke visokog rizika, dok se za radnje manjeg rizika dozvoljava veća autonomija. U oba slučaja, važno je uspostaviti upravljanje podacima i kontrole pristupa kako bi AI mogao da komunicira samo sa odobrenim sistemima i podacima.

Merenje uspeha – metrike i ROI

Timovi za bezbednost koji postižu najveći uspeh sa agentskom AI uvode alatke za merenje kako bi procenili koliko dobro ostvaruju ciljeve. To im pruža informacije koje su im potrebne da bi prilagodili i doterali svoja rešenja.

Ključne metrike uspeha uključuju:

Operativne metrike

Podaci koji pomažu da se utvrdi efikasnost bezbednosnih operacija obuhvataju:

  • MTTD i MTTR.
  • Broj upozorenja koja su automatski klasifikovana ili zatvorena.
  • Smanjenje stope lažno pozitivnih rezultata.
  • Vreme potrebno za istragu i rešavanje incidenata.

Metrike radne snage

Ove metrike rukovodstvu pružaju uvid u to kako agentski AI menja način na koji timovi za bezbednost troše svoje vreme:

  • Sati koje je analitičar povratio iz ručne istrage i sortiranja.
  • Stopa eskalacije za upozorenja koja zahtevaju intervenciju analitičara.
  • Vreme do uvođenja novih analitičara u rad uz tokove rada uz pomoć AI-ja.
  • Smanjenje ponavljajućih zadataka ili zadataka male vrednosti.

Poslovne metrike

Rukovodioci takođe mogu da vide kako poboljšanja bezbednosti utiču na celu organizaciju pomoću metrika kao što su:

  • Trošak po bezbednosnom incidentu.
  • Pokrivenost kroz okruženja, identitete, krajnje uređaje i resurse u oblaku
  • Ukupni nivo usaglašenost i spremnost za nadzor.
  • Smanjenje izloženosti operativnom riziku tokom vremena.

Rizici, ograničenja i bezbednosna razmatranja

Pošto agentski sistemi rade sa različitim nivoima autonomije, upravljanje, transparentnost i kontrola su neophodni za bezbedno raspoređivanje.

Operativni i tehnički rizici

  • Skriveni agenti i neupraavljana automatizacija. Kako agenski sistemi rastu, organizacije mogu nenamerno da naprave agente kojima se ne upravlja ili duplirane agente. Bez odgovarajućeg nadzora, ovi „agenti u senci“ mogu da uvedu nedosledno ponašanje ili neovlašćene radnje.
  • Halucinacije i lažno pozitivni rezultati. Kao i drugi AI sistemi, agentski AI može da proizvede netačne zaključke ili pogrešno protumači podatke, što može da dovede do nepotrebnih upozorenja ili pogrešnih radnji ako se ne validira.
  • Preterana automatizacija i gubitak nadzora. Prekomerno oslanjanje na automatizaciju može da smanji vidljivost u procese donošenja odluka, povećavajući rizik od propuštenog konteksta ili neodgovarajućih radnji.
  • Privatnost podataka i kontrola pristupa. Agentski AI sistemi zahtevaju pristup osetljivim bezbednosnim podacima, zbog čega su stroge kontrole oko dozvola, granica podataka i pristupa sa najmanjim privilegijama kritične.
  • Pomeranje modela i suparnička manipulacija. Vremenom, performanse modela mogu da opadnu kako se okruženja menjaju. Pored toga, kibernetički napadači mogu da pokušaju da manipulišu ulazima ili metrikama kako bi uticali na ponašanje agenta.

Razmatranja o propisima i usaglašenosti

  • NIST AI Risk Management Framework (AI RMF) pruža smernice za upravljanje rizicima povezanim sa AI-jem tokom celog životnog ciklusa, uključujući upravljanje, mapiranje, merenje i upravljanje.
  • ISO/IEC 42001 uspostavlja zahteve za sistem upravljanja AI-jem, sa fokusom na odgovoran razvoj i upotrebu AI sistema.
  • EU AI Act uvodi klasifikaciju zasnovanu na riziku i zahteve usaglašenosti za AI sisteme koji rade u Evropskoj uniji ili na nju utiču.
  • Sektorski specifični propisi su jedinstveni zahtevi za određene industrije, kao što su Zakon o prenosivosti i odgovornosti zdravstvenog osiguranja (HIPAA) za zaštitu podataka u zdravstvu, Standard bezbednosti podataka industrije platnih kartica (PCI DSS) za bezbednost plaćanja i Zakon Sarbejns-Oksli (SOX) za kontrole finansijskog izveštavanja.

Dizajniranje odgovorne strategije agentne AI

Kako bezbednosni timovi primenjuju i skaliraju agentskuAI za kibernetičku bezbednost u svojim organizacijama, promišljena strategija pomaže u poboljšanju bezbednosnih rezultata uz održavanje transparentnosti, odgovornosti i poverenja među timovima.

Principi za bezbedno postavljanje

Organizacije obično uvode agentski AI kroz kontrolisane faze, počevši od niskorizičnih, asistivnih scenarija upotrebe pre nego što pređu na radnje sa većim uticajem. Takođe je važno dati prioritet transparentnosti u načinu na koji bezbednosni agenti donose odluke.

Zaštitne mere i tokovi odobravanja

Jasno definisana pravila ponašanja pomažu da se ponašanje agenta ograniči na bezbedne i očekivane granice. Da bi smanjili rizik od neočekivanog ponašanja, timovi određuju koje radnje AI agenti za kibernetičku bezbednost mogu da izvrše autonomno, uspostavljaju tokove odobravanja za operacije sa velikim uticajem ili osetljive operacije i postavljaju pragove za to kada bezbednosni agenti treba da eskaliraju slučaj analitičarima.

Pristup zasnovan na ulogama za AI agente

Kontrola pristupa zasnovana na ulogama (RBAC) pomaže da se smanji rizik od neželjenih aktivnosti tako što ograničava pristup agenta sistemima, podacima i radnjama koje su potrebne za njegovu konkretnu funkciju. Iz tog razloga, timovi za identitet primenjuju iste principe najmanjih privilegija na agente kao i na ljude.

Praćenje i nadzor radnji agenta

Da bi održali vidljivost u ponašanje agenta, timovi za bezbednost beleže i revidiraju sve radnje agenta, uključujući odluke, upotrebu alatki i rezultate. To im pomaže da istraže incidente, ispune zahteve usaglašenost i otkriju probleme u primeni koje treba doterati.

Izgradnja poverenja sa analitičarima

Veća je verovatnoća da će analitičari usvojiti agentski AI ako osećaju da su informisani i da imaju kontrolu. Organizacije mogu da izgrade poverenje tako što će se pobrinuti da preporuke agenta budu jasne i lake za razumevanje. Takođe postižu veći uspeh kada koriste AI da dopuni, a ne da zameni donošenje odluka analitičara.

Usaglašenost između više funkcija

Centri za bezbednosne operacije (SOC), IT i timovi za usaglašenost igraju ulogu u bezbednom, efikasnom i u skladu sa tolerancijom na rizik organizacije primenom agentske veštačke inteligencije. Timski rad više disciplina pomaže organizacijama da definišu operativne scenarije upotrebe, upravljaju integracijom i infrastrukturom i ispune regulatorne zahteve.

Od automatizacije do agentske bezbednosti

Izgradnja potpuno agentskih tokova rada koji funkcionišu u više domena bezbednosti predstavlja višefazni proces. Kako organizacije povećavaju svoju operativnu zrelost, potreban im je jači nadzor i upravljanje.

Faza 1: Skriptovana automatizacija

U najranijoj fazi, organizacije koriste unapred definisane skripte i tokove rada za obradu ponavljajućih bezbednosnih zadataka.

Kako izgleda uspeh:

  • Dosledno izvršavanje rutinskih zadataka, kao što su obogaćivanje upozorenja ili kreiranje tiketa.
  • Smanjen ručni rad u tokovima posla niske složenosti.
  • Zavisnost od statičkih pravila i priručnika.

Pokazatelji spremnosti:

  • Stabilne integracije sa SIEM, SOAR i sistemom za upravljanje tiketima.
  • Jasno definisani i ponovljivi bezbednosni procesi.
  • Velika količina ponavljajućih zadataka za analitičare.

Faza 2: Analiza uz podršku AI

U ovoj fazi, AI podržava analitičare poboljšavanjem vidljivosti, sažimanja i donošenja odluka, ali ne preduzima direktne radnje.

Kako izgleda uspeh:

  • Brža istraga kroz sažetke i uvide koje generiše AI.
  • Poboljšano razumevanje upozorenja i obogaćivanje konteksta.
  • Analitičari ostaju u potpunosti odgovorni za odluke i radnje.

Pokazatelji spremnosti:

  • Zreli tokovi podataka i centralizovane metrike.
  • Uspostavljeni procesi bezbednosnih operacija.
  • Potreba za bržim razvrstavanjem i podrškom pri istrazi.

Faza 3: Poluautonomni agenti

Ovde agentska AI počinje da preduzima ograničene radnje u okviru definisanih pravila ponašanja, dok ljudi zadržavaju ovlašćenje za odobravanje operacija višeg rizika.

Kako izgleda uspeh:

  • Automatizovano sortiranje, obogaćivanje i preporučeni koraci za otklanjanje problema.
  • Smanjeno opterećenje analitičara ponavljajućim zadacima istrage.
  • Odobravanje od strane čoveka u petlji za radnje izolovanja i otklanjanja problema.

Pokazatelji spremnosti:

  • Jake kontrole identiteta i pristupa za sisteme za automatizaciju.
  • Dobro definisani tokovi eskalacije i odobravanja.
  • Poverenje u kvalitet podataka i integracije sistema.

Faza 4: Potpuno agentski tokovi posla

U najzrelijoj fazi, agentski AI radi u više domena, koordinirajući radnje uz minimalno učešće analitičara u okviru utvrđenih granica. Ovo omogućava bezbednosnu orkestraciju od početka do kraja širom organizacije.

Kako izgleda uspeh:

  • Kontinuirano, autonomno otkrivanje, istraživanje i odgovor u svim okruženjima.
  • Koordinacija između domena za bezbednost, IT, identitet i sisteme usaglašenosti.
  • Ljudi se fokusiraju na upravljanje, strategiju i rukovanje izuzecima.

Pokazatelji spremnosti:

  • Zreli okviri upravljanja za AI i automatizaciju.
  • Visokopouzdane metrike i integritet podataka u svim sistemima.
  • Snažna usaglašenost između timova za bezbednost, IT i usaglašenost.
  • Uspostavljeno poverenje u automatizovano donošenje odluka uz mogućnost revizije i nadzor.

Trendovi u agentskoj AI

Agentski AI je još u ranoj fazi usvajanja, ali nekoliko jasnih trendova oblikuje njegov razvoj u bezbednosti.

  • Autonomno crveno timovanje. AI agenti će sve više simulirati ponašanje napadača kako bi kontinuirano testirali odbrane, identifikovali slabosti i potvrđivali bezbednosne kontrole u realnom vremenu.
  • Petlje agenata. Agentički AI za bezbednosne operacije postaće kontinuiraniji i samousavršavajući, pri čemu će agenti opažati, delovati i učiti iz ishoda da bi usavršili otkrivanje i odgovor.
  • Kibernetički sukob AI-ja protiv AI-ja. Kako i kibernetički napadači usvajaju AI, budući kibernetički sukobi mogu uključivati odbrambene i ofanzivne agentičke sisteme koji se direktno takmiče jedni s drugima.
  • Prediktivna odbrana. Umesto da reaguju na incidente, agentički sistemi će predviđati pretnje analizom obrazaca, podataka o izloženosti i ponašanja napadača kako bi sprečili kibernetičke napade pre nego što se dogode.
  • Saradnički AI agenti. Više specijalizovanih agenata koordiniraće zadatke kao što su detekcija, istraga, sanacija i izveštavanje kako bi kreirali skalabilnije i otpornije bezbednosne tokove rada.
  • Uloga analitičara u razvoju. Analitičari će se udaljiti od ponavljajućih zadataka istrage i odgovora ka odgovornostima veće vrednosti, kao što su nadzor agenata, dizajn smernica i strateško upravljanje rizicima.

Microsoft bezbednost i agentski AI

Organizacije mogu da otkrivaju, istražuju i odgovaraju na pretnje širom svog digitalnog okruženja pomoću jedinstvene, AI-platforme za bezbednost korporacije Microsoft. U centru je Microsoft Security Copilot, bezbednosno rešenje na prirodnom jeziku, potpomognuto veštačkom inteligencijom, koje omogućava analitičarima da obrazlažu incidente, sumiraju pretnje i koordiniraju akcije odgovora u različitim okruženjima. Ugrađeni agenti proširuju ove mogućnosti kroz rešenja Microsoft bezbednosti.

Microsoft Defender XDR: Operacije agentskog SOC-a

Timovi za bezbednost su često preopterećeni količinom upozorenja, ručnim filtriranjem i fragmentiranim istragama. U usluzi Microsoft Defender XDR, agentska AI pomaže da se odrede prioriteti za visoko rizične probleme, ubrza istraga incidenata i poboljša efikasnost odgovora.

  • Agent za određivanje prioriteta bezbednosnih upozorenja – Daje prioritet upozorenjima kako bi smanjio šum i pomogao analitičarima da brže fokusiraju pažnju na incidente visokog rizika.
  • Agent analitičar bezbednosti – Istražuje incidente, povezuje signale i preporučuje akcije odgovora kako bi pojednostavio tokove rada SOC-a.
  • Agent za lov na pretnje – pretražuje različita okruženja da bi otkrio skrivene pretnje, sumnjivo ponašanje i nove obrasce napada.
  • Agent za dinamičku detekciju pretnji – Kontinuirano analizira aktivnosti i prilagođava logiku otkrivanja kako bi identifikovao pretnje i anomalije u razvoju.
  • Agent za informisanje o pretnjama – Sažima obaveštajne informacije o pretnjama u upotrebljive uvide kako bi timovi ostali korak ispred novih rizika.

Zajedno, ovi agenti pomažu da se smanji ručna istraga i ubrza odgovor na incidente kroz krajnje tačke, identitete, e-poštu i radna opterećenja u oblaku.

Microsoft Sentinel: otkrivanje, potraga i orkestracija uz pomoć veštačke inteligencije

U usluzi Microsoft Sentinel, Security Copilot pomaže analitičarima da pređu sa ručne istrage na tokove rada zasnovane na prirodnom jeziku i grupama upita. Analitičari mogu da generišu KQL, sažimaju incidente, obogaćuju entitete, analiziraju korisnike i uređaje i automatizuju korake istrage kroz Logic Apps i grupu upita.

Prilagođeni agent za izveštavanje o incidentima u usluzi Sentinel može da izdvoji nalaze istrage, entitete, uvide i korake sanacije iz incidenata. Odzivnici takođe mogu da automatizuju analizu korisnika i dodaju rezultate direktno u evidencije aktivnosti incidenta.

Ove mogućnosti pomažu da se smanji ručno pisanje upita, poboljša doslednost istrage i uštedi vreme analitičara automatizacijom zadataka koji se ponavljaju.

Microsoft Purview: agentička bezbednost i usaglašenost podataka

U usluzi Microsoft Purview, Security Copilot pomaže timovima da obezbede i upravljaju podacima kroz Upravljanje stanjem bezbednosti podataka, Sprečavanje gubitka podataka, Upravljanje unutrašnjim rizikom, E-otkrivanje, Nadzor i Usaglašenost komunikacije.

  • Agent za određivanje prioriteta u bezbednosti podataka – Daje prioritet DLP i Insider Risk upozorenjima, objašnjava kontekst rizika i može da pokrene tokove rada za oporavak sa vlasnicima podataka.
  • Agent za stanje bezbednosti podataka – Otkriva osetljive podatke, identifikuje skrivene rizike i izložene akreditive, poboljšava označavanje osetljivosti i generiše sažetke spremne za rukovodioce.

Ovi agenti pomažu bezbednosnim timovima da smanje ručno filtriranje, brže daju prioritet kritičnim rizicima i ojačaju operacije bezbednosti podataka i usaglašenost.

Microsoft Entra: agenti za identitet i pristup

U usluzi Microsoft Entra, Security Copilot pomaže timovima da istraže rizične korisnike, neobična prijavljivanja, privilegovani pristup i pretnje zasnovane na identitetu. Copilot može da sažme kontekst identiteta, objasni signale rizika i preporuči akcije kao što su opoziv sesije, pregledi pristupa ili prilagođavanje smernica za uslovni pristup.

Mogućnosti uključuju agente za identitet i pristup i Microsoft Entra Agent ID, koji pomaže organizacijama da registruju, upravljaju i nadziru identitete AI agenata uz upravljanje životnim ciklusom, upravljanje pristupom i kontrole zaštite identiteta.

Ove mogućnosti pomažu organizacijama da smanje rizik po identitet i primenjuju načela Nulte pouzdanosti na ljudske i AI identitete.

Microsoft Intune: agenti za upravljanje krajnjim tačkama

U usluzi Microsoft Intune, Security Copilot pomaže timovima za krajnje tačke i IT da razumeju usklađenost uređaja, odstupanja u konfiguraciji, izloženost ranjivostima i potrebe za oporavkom. Copilot može da sažme rizik uređaja, objasni probleme neusaglašenosti, preporuči naredne korake i pomogne timovima da brže odgovore.

Agenti za upravljanje krajnjim tačkama pomažu da se automatizuju provere usaglašenosti, istraže problemi sa uređajima i usmeri oporavak kroz upravljane krajnje tačke.

Ove mogućnosti pomažu da se smanji ručna istraga krajnjih tačaka, poboljšaju operacije usaglašenosti i brže zatvore praznine u konfiguraciji.

Zajedno, Microsoft Security Copilot i ugrađeni agenti pomažu organizacijama da pređu sa reaktivnih, ručnih bezbednosnih operacija na prilagodljivu, AI-podržanu odbranu koja poboljšava zaštitu, brzinu i obim kroz ceo bezbednosni životni ciklus.

Najčešća pitanja

  • Agentna AI se odnosi na AI sisteme sa autonomijom i sposobnostima zaključivanja koji teže definisanim ciljevima uz minimalno usmeravanje. Za razliku od tradicionalne automatizacije, ovi sistemi mogu da se prilagođavaju promenljivim uslovima, planiraju tokove posla sa više koraka i kontinuirano uče iz rezultata da bi poboljšali performanse.
  • Generativna AI kreira sadržaj, kao što su tekst, rezimei ili kôd, kao odgovor na upite, dok agentna AI planira i preduzima radnje da bi ispunila definisane bezbednosne ciljeve.
  • Agentna AI u kibernetičkoj bezbednosti podrazumeva primenu agenata koji autonomno analiziraju podatke, istražuju anomalije i orkestriraju bezbednosne tokove posla od početka do kraja.
  • Uobičajen primer agentne AI u bezbednosti je agent za trijažu SOC upozorenja koji automatski obogaćuje bezbednosna upozorenja kontekstualnim podacima, izračunava ocene rizika i preporučuje sledeće korake za ublažavanje.
  • Rešenja za bezbednosnu orkestraciju, automatizaciju i reagovanje (SOAR) oslanjaju se na unapred definisane, statičke priručnike za automatizaciju akcija reagovanja, što ih čini veoma proceduralnim i ograničene prilagodljivosti. Nasuprot tome, agentna AI analizira kontekst, dinamički prilagođava tokove posla i kontinuirano uči, što joj omogućava da se nosi sa složenim ili promenljivim scenarijima kibernetičkog napada bez oslanjanja na kruta pravila orkestracije.

Pratite Microsoft bezbednost