This is the Trace Id: 92c03ff970e448630023a9b6d07f11b1
Salt la conținutul principal Microsoft Defender Microsoft Entra Microsoft Intune Project Perception Microsoft Purview Microsoft Sentinel SIEM Vedeți toate produsele Securitate cibernetică pe platformă de inteligență artificială Securitate în cloud Securitatea și guvernarea datelor Identitate și acces la rețea Securitate pentru inteligența artificială Întreprinderi mici și mijlocii Operațiuni de securitate integrate Zero Trust Prețuri Servicii Parteneri De ce Microsoft Security Conștientizarea securității cibernetice Relatările clienților Introducere în securitate Versiuni de încercare ale produselor Recunoaștere la nivelul sectorului de activitate Microsoft Security Insider Raportul Apărarea digitală Microsoft Security Response Center Blogul Microsoft Security Evenimente Microsoft Security Microsoft Tech Community Documentație Bibliotecă de conținut tehnic Instruire și certificări Programul de conformitate pentru Microsoft Cloud Centru de autorizare Microsoft Service Trust Portal Microsoft Inițiativa pentru un viitor sigur Hub de soluții de afaceri Contactați echipa de vânzări Începeți versiunea de încercare gratuită Microsoft Security Azure Dynamics 365 Microsoft 365 Microsoft Teams Windows 365 Inteligență artificială Microsoft Azure Space Realitate mixtă Microsoft HoloLens Microsoft Viva Calcul cuantic Instituții de învățământ Auto Servicii financiare Administrație publică Instituții medicale Producție Comerț cu amănuntul Găsiți un partener Deveniți partener Programul de parteneriat Microsoft Marketplace Firme de software Blog Microsoft Advertising Centru pentru dezvoltatori Documentație Evenimente Licențiere Microsoft Learn Cercetare Microsoft Vizualizare hartă site

Ce sunt agenții cu inteligență artificială din securitatea cibernetică?

Agenții cu inteligență artificială din securitatea cibernetică reprezintă utilizarea agenților autonomi pentru a detecta, a investiga și a răspunde la amenințări, cu intervenție umană minimă.
Raport de protecție digitală Microsoft 2024: Bazele și noile frontiere ale securității cibernetice

Un agent de securitate cibernetică este o capacitate pe platformă de inteligență artificială concepută pentru a asista în mod autonom echipele de securitate. Agenții cu inteligență artificială din securitatea cibernetică se referă în mod specific la modul în care acești agenți sunt utilizați pentru a detecta, a investiga și a răspunde la amenințările cibernetice.

Pe măsură ce actorii de amenințare folosesc tot mai mult automatizarea pentru a-și accelera atacurile cibernetice, echipele de securitate implementează agenți în diverse scenarii pentru a le ajuta să răspundă mai rapid și să anticipeze riscurile emergente.

Concluzii principale

  • Agenții cu inteligență artificială din securitatea cibernetică urmăresc în mod autonom obiective prin utilizarea raționamentului, a planificării și a învățării continue pentru a realiza activități în mai mulți pași.
  • Echipele de securitate adoptă agenții cu inteligență artificială pentru a contribui la soluționarea provocărilor tot mai mari din securitatea cibernetică, printre care volume uriașe de alerte, atacuri asistate de inteligență artificială mai rapide, oboseala analiștilor și medii hibride complexe.
  • Agenții cu inteligență artificială pot îmbunătăți operațiunile de securitate prin accelerarea detectării amenințărilor și a răspunsului, reducerea activității repetitive a analiștilor, îmbunătățirea prioritizării și oferirea unei acoperiri de securitate mai consecvente și scalabile.
  • Agenții de inteligență artificială sunt concepuți pentru a asista în fluxuri de lucru specializate din domenii critice, precum phishingul, securitatea datelor și gestionarea identităților.
  • Organizațiile folosesc mecanisme de protecție, fluxuri de lucru pentru aprobare, control al accesului pe bază de roluri și auditare pentru a contribui la funcționarea în siguranță, transparent și în limite definite a agenților cu inteligență artificială.
  • Majoritatea organizațiilor adoptă treptat agenții cu inteligență artificială, începând cu fluxurile de lucru în care este necesară capacitate suplimentară pentru echipă. Echipele trec de la automatizarea bazată pe scripturi și analiza asistată de inteligență artificială către fluxuri de lucru mai autonome, pe măsură ce se îmbunătățesc guvernanța și maturitatea operațională.

Când sunt agenții cu inteligență artificială?

Agenții cu inteligență artificială diferă de modelele tradiționale bazate pe învățare programată, de inteligența artificială generativă și de instrumentele de automatizare, deoarece urmăresc în mod independent obiective și se adaptează la condiții în schimbare. Acest lucru este diferit de modelele tradiționale bazate pe învățare programată, care analizează în principal datele și fac predicții, dar nu acționează pe baza acestor detalii. Inteligența artificială generativă creează conținut ca răspuns la intrări conversaționale, însă oamenii trebuie să continue să îi trimită solicitări pentru a rafina rezultatele. Iar instrumentele de automatizare, cum ar fi manualele de proceduri pentru orchestrarea, automatizarea și răspunsul în materie de securitate (SOAR), urmează fluxuri de lucru și reguli predefinite. Prin contrast, agenții cu inteligență artificială realizează activități în mai mulți pași cu intervenție umană limitată.

Agenții cu inteligență artificială au mai multe caracteristici de bază:

  • Autonomie. Sistemele de agenți cu inteligență artificială pot funcționa cu niveluri variabile de implicare umană, de la supraveghere umană continuă până la executare mai autonomă în limite definite.
  • Orientare spre obiective. Aceasta urmărește în mod activ rezultate definite, cum ar fi detectarea amenințărilor, reducerea vulnerabilităților sau îmbunătățirea posturii de securitate.
  • Raționament și planificare. Aceasta poate coordona procese în mai mulți pași, poate raționa prin secvențe de acțiuni și poate crea planuri pentru a-și atinge obiectivele.
  • Memorie. Sistemele de agenți păstrează contextul din interacțiuni, evenimente și decizii anterioare, astfel încât să poată face alegeri mai bine informate în timp.
  • Învățare continuă și adaptare. Agenții cu inteligență artificială învață din date noi, ajustează strategiile în funcție de context și își îmbunătățesc eficiența în timp.

Supravegherea umană în sistemele de agenți cu inteligență artificială

Sistemele de agenți cu inteligență artificială sunt adesea concepute cu supraveghere umană integrată pentru a echilibra autonomia cu controlul.

În abordarea Microsoft privind agenții cu inteligență artificială pentru securitatea cibernetică, aceștia sunt concepuți ca un model colaborativ în care operatorii umani pot monitoriza și ghida comportamentul sistemului.

Printre exemple se numără:

  • Raționament transparent. Sistemele Microsoft oferă context și justificare de susținere împreună cu recomandări pentru a-i ajuta pe analiști să înțeleagă rezultatele sistemului și parcursurile decizionale.
  • Aprobare și ajustare. Echipele pot revizui, aproba, respinge sau ajusta fin acțiunile sistemului, incorporând feedback pentru a îmbunătăți continuu rezultatele.
  • Controale auditabile. Activitățile sunt guvernate de controale de securitate la nivel de întreprindere, cum ar fi accesul pe bază de roluri, jurnalele de audit și mecanismele de protecție ale fluxurilor de lucru, pentru a sprijini responsabilitatea și cerințele de conformitate.

Cum funcționează agenții cu inteligență artificială

Agenții cu inteligență artificială pot răspunde dinamic la condiții în schimbare și își pot ajusta comportamentul în funcție de context datorită unui proces numit buclă agentică, o secvență de pași pe care agentul o repetă până când își îndeplinește obiectivul.

Percepe → Raționează → Planifică → Acționează → Învață

  • Percepție. Sistemul colectează informații din mediul său, inclusiv jurnale, alerte, activitatea utilizatorilor, investigarea amenințărilor și date din instrumente și sisteme conectate.
  • Raționament. Acesta analizează informațiile, identifică modele, evaluează riscurile și stabilește ce înseamnă datele în context.
  • Planificare. Pe baza obiectivelor sale, sistemul dezvoltă o secvență de acțiuni pentru a obține un rezultat dorit.
  • Acțiune. Agentul realizează activități, cum ar fi izolarea unui dispozitiv, deschiderea unui tichet, escaladarea unei alerte sau colectarea de dovezi suplimentare, interacționând cu instrumente, sisteme sau fluxuri de lucru.
  • Învățare. Sistemul evaluează rezultatele acțiunilor sale și utilizează feedbackul, datele noi și rezultatele anterioare pentru a îmbunătăți deciziile și răspunsurile viitoare.

Pentru ca agenții cu inteligență artificială să funcționeze eficient, echipele trebuie, de asemenea, să decidă dacă doresc să utilizeze un sistem cu un singur agent sau unul cu mai mulți agenți. Un sistem cu un singur agent se bazează pe un agent pentru a gestiona activități și decizii, ceea ce funcționează bine atunci când fluxurile de lucru sunt relativ restrânse, iar deciziile sunt centralizate. Dacă fluxurile de lucru sunt complexe sau necesită tipuri diferite de competențe, organizațiile configurează adesea un sistem cu mai mulți agenți care utilizează mai mulți agenți specializați de inteligență artificială pentru securitate cibernetică, care lucrează împreună pentru un obiectiv comun.

Chiar și cu capacități autonome, supravegherea din partea oamenilor rămâne importantă. Multe organizații utilizează puncte de verificare cu intervenție umană și etape de aprobare pentru acțiuni confidențiale sau cu risc ridicat, pentru a contribui la menținerea guvernanței, responsabilității și controlului operațional.

Agenți cu inteligență artificială vs. inteligență artificială generativă vs. SOAR vs. Machine Learning tradițional

Diferențele dintre automatizarea tradițională, inteligența artificială generativă și agenții cu inteligență artificială devin mai clare atunci când se compară dimensiunile esențiale.

Dimensiune
Machine Learning tradițional / SOAR
Inteligență artificială generativă
Agenți cu inteligență artificială
Autonomie
Bazat pe reguli, bazat pe scripturi
Răspunde la solicitări
Acționează autonom către obiective definite
Luarea deciziilor
Logică predefinită
Generează răspunsuri și conținut
Planifică, raționează și acționează
ÎnvățareModele statice, reinstruire periodică
Doar în context, fără învățare persistentă
Adaptare continuă, conștientă de context
Implicare umană
Oamenii execută fluxul de lucru
Oamenii trimit solicitări și revizuiesc rezultatul
Oamenii stabilesc obiective și mecanisme de protecție
Utilizare tipică în SOC
Detectare pe bază de semnături și manuale de proceduri SOAR
Întrebări și răspunsuri pentru analist și rezumat
Triaj, căutare activă și răspuns complete

De ce contează agenții cu inteligență artificială pentru securitatea cibernetică

Din păcate, companiile și guvernele nu sunt singurele care adoptă inteligența artificială într-un ritm rapid. Actorii de amenințare utilizează sisteme de agenți pentru a crește viteza și amploarea atacurilor cibernetice, ceea ce creează sau amplifică mai multe provocări de securitate cibernetică, inclusiv:

  • Provocarea legată de amploare. Echipele de securitate se confruntă adesea cu volume copleșitoare de alerte, o complexitate tot mai mare a datelor și lipsuri continue de analiști.
  • Provocarea legată de viteză. Atacatorii cibernetici își automatizează tot mai mult operațiunile, în timp ce mulți apărători se bazează încă pe procese manuale de triaj și de răspuns la incidente.
  • Provocarea legată de fiabilitate și acuratețe. Expunerea prelungită la ture de noapte și la volume mari de activități repetitive poate duce la oboseala și epuizarea analiștilor, crescând riscul de inconsecvență și eroare umană.
  • Provocarea legată de reziliență. Organizațiile moderne operează în medii hibride care includ platforme cloud, puncte finale, identități, aplicații și servicii terțe. Această suprafață de atac în extindere crește riscul operațional și creează mai multe oportunități pentru atacatorii cibernetici.

Agenții cu inteligență artificială din securitatea cibernetică ajută echipele de securitate să funcționeze mai eficient în medii care devin prea complexe, prea rapide și prea interconectate pentru operațiuni de securitate (SecOps) complet manuale. Acest lucru diferă de conceptul mai amplu de securitate a agenților cu inteligență artificială , care se concentrează pe protejarea sistemelor de inteligență artificială în sine.

Beneficiile agenților cu inteligență artificială în securitatea cibernetică

În loc să înlocuiască echipele de securitate, agenții cu inteligență artificială acționează ca un multiplicator de forțe în toate operațiunile de securitate cibernetică, conducând la beneficii precum:

  • Timp mediu mai redus de detectare și răspuns (MTTD/MTTR). Agenții cu inteligență artificială pot investiga alerte, corela semnale și coordona rapid acțiunile de răspuns, ajutând echipele să reducă timpii de detectare și răspuns.
  • Reducerea oboselii analiștilor și mai mult timp pentru activități cu valoare ridicată. Prin gestionarea activităților repetitive și consumatoare de timp, agenții cu inteligență artificială contribuie la reducerea oboselii cauzate de alerte și le permite analiștilor să se concentreze asupra unor investigații și decizii mai strategice.
  • Triaj și răspuns consecvente, repetabile. Agenții cu inteligență artificială aplică în mod consecvent fluxurile de lucru și procesele în toate incidentele, îmbunătățind fiabilitatea operațională prin reducerea variabilității cauzate de operațiunile manuale.
  • Acoperire permanentă și scalare elastică. Spre deosebire de echipele umane, agenții cu inteligență artificială pot funcționa continuu și se pot scala pentru a gestiona volume mari de alerte, evenimente și date fără a necesita personal suplimentar.
  • Raport semnal-zgomot îmbunătățit și prioritizare mai bună. Agenții cu inteligență artificială pot analiza cantități mari de date contextuale pentru a ajuta la identificarea celor mai importante amenințări, reducând alertele inutile și îmbunătățind prioritizarea.
  • Reziliență mai puternică și gestionare proactivă a riscurilor. Agenții cu inteligență artificială pot monitoriza continuu mediile, identifica puncte slabe potențiale și susține măsuri proactive de securitate care ajută organizațiile să reducă riscul și să îmbunătățească reziliența operațională în timp.

Cazuri de utilizare de bază ale agenților cu inteligență artificială în operațiuni de securitate

Mai multe cazuri de utilizare demonstrează modul în care oamenii și agenții pot lucra împreună pentru a consolida securitatea.

Triajul alertelor și prioritizare

Echipele de securitate se confruntă adesea cu mai multe alerte decât pot investiga manual, ceea ce face ca prioritizarea să fie esențială pentru un răspuns eficient.

Rolul agentului:

  • Îmbogățește alertele cu investigarea amenințărilor, contextul activelor și date despre comportamentul utilizatorilor.
  • Prioritizează incidentele pe baza scorului de risc și de încredere.
  • Recomandă pașii următori pentru investigație sau remediere.

Rolul analistului:

  • Revizuiește incidentele cu prioritate ridicată.
  • Validează constatările și deciziile de escaladare.
  • Gestionează investigațiile complexe sau confidențiale.

Investigarea amenințărilor

Echipele de securitate se bazează pe volume mari de date despre amenințări, ceea ce îngreunează extragerea rapidă a unor detalii relevante și utile.

Rolul agentului:

  • Colectează și rezumă investigarea amenințărilor din mai multe surse.
  • Oferă conștientizarea unei situații în timp real și raportare rapidă.
  • Corelează activitatea amenințărilor între medii.

Rolul analistului:

  • Interpretează riscurile strategice și tendințele amenințărilor.
  • Validează relevanța și impactul informațiilor.
  • Ghidează prioritățile de răspuns și planificarea.

Căutarea activă a amenințărilor cibernetice

Identificarea amenințărilor ascunse sau emergente necesită analiză continuă în seturi de date mari și complexe.

Rolul agentului:

  • Generează ipoteze de căutare activă și interoghează surse de date.
  • Iterează prin seturi mari de date pentru a identifica activități suspecte.
  • Efectuează căutări active continue în fundal pentru amenințări emergente.

Rolul analistului:

  • Validează constatările și stabilește impactul asupra afacerii.
  • Investighează activitatea atacurilor cibernetice avansate sau direcționate.
  • Rafinează strategiile și prioritățile de căutare activă.

Răspuns la incidente și remedierea punctelor finale

Răspunsul la incidente de securitate necesită coordonare rapidă între activitățile de detectare, investigație și izolare.

Rolul agentului:

  • Automatizează colectarea dovezilor și documentația incidentelor.
  • Elaborează cronologii și rezumă activitatea atacurilor cibernetice.
  • Finalizează acțiunile de izolare cu aprobarea analiștilor.
  • Ajută la protejarea punctelor finale și la automatizarea fluxurilor de lucru pentru remedierea vulnerabilităților.

Rolul analistului:

  • Aprobă acțiunile de răspuns cu risc ridicat.
  • Supervizează eforturile de remediere și recuperare.
  • Coordonează comunicarea și revizia post-incident.

Gestionarea vulnerabilităților și a expunerii

Organizațiile trebuie să identifice și să prioritizeze punctele slabe de securitate înainte ca acestea să fie exploatate de actorii de amenințare.

Rolul agentului:

  • Prioritizează vulnerabilitățile în funcție de nivelul de risc și de valoarea activelor expuse riscului.
  • Identifică expunerile din mediile cloud, de punct final și de identitate.
  • Recomandă căi de remediere și acțiuni de reducere.

Rolul analistului:

  • Stabilește prioritățile de remediere în funcție de riscul asupra afacerii.
  • Validează acțiunile recomandate.
  • Coordonează eforturile de aplicare a corecțiilor și de reducere a riscurilor.

Securitatea identităților și a accesului

Monitorizarea activității de identitate este esențială pentru detectarea accesului neautorizat și prevenirea utilizării necorespunzătoare a privilegiilor.

Rolul agentului:

  • Detectează modele neobișnuite de conectare și acces.
  • Identifică permisiunile riscante și riscurile de escaladare a privilegiilor.
  • Monitorizează continuu amenințările legate de identitate.

Rolul administratorului de identități și acces:

  • Revizuiește evenimentele de acces cu risc ridicat.
  • Aprobă modificările politicilor sau permisiunilor.
  • Investighează activitatea potențială de compromitere internă sau a conturilor.

Inginerie de securitate și dezvoltarea detectării

Echipele de securitate trebuie să construiască și să rafineze continuu logica de detectare pentru a ține pasul cu amenințările în evoluție.

Rolul agentului:

  • Scrie și testează logica de detectare.
  • Validează acoperirea detectării și identifică lacunele.
  • Sugerează îmbunătățiri de ajustare pentru a reduce rezultatele fals pozitive.

Rolul analistului:

  • Revizuiește și aprobă actualizările de detectare.
  • Aliniază detectările la prioritățile organizației.
  • Supervizează arhitectura și strategia de securitate pe termen lung.

Securitatea și conformitatea datelor

Protejarea datelor confidențiale necesită monitorizare continuă, clasificare și impunerea politicilor de securitate.

Rolul agentului:

  • Investighează și prioritizează prevenirea pierderilor de date și riscurile interne.
  • Automatizează descoperirea și analiza riscurilor privind datele confidențiale în toate mediile.
  • Identifică încălcările politicilor și lacunele de conformitate.

Rolul administratorului de securitate a datelor:

  • Revizuiește evenimentele de expunere a datelor cu risc ridicat.
  • Stabilește cerințele de conformitate și guvernanță.
  • Supervizează remedierea și deciziile de impunere a politicilor.

Cum se integrează agenții cu inteligență artificială în fluxurile de lucru de securitate cibernetică

Agenții cu inteligență artificială din securitatea cibernetică oferă cea mai mare valoare atunci când ajută echipele să analizeze datele, să îmbogățească alertele și să răspundă la vulnerabilități și amenințări în întregul mediu. Pentru a face acest lucru, organizațiile folosesc API-uri pentru a conecta agenții de securitate la instrumentele pe care le utilizează deja, cum ar fi SOAR, detectare și răspuns extinse (XDR), administrarea posturii de securitate în cloud (CSPM), gestionarea identităților și accesului (IAM), Managementul evenimentelor și informațiilor de securitate (SIEM), instrumente de detectare puncte finale și răspuns (EDR) și soluții de gestionare a tichetelor. Acest lucru permite sistemelor de agenți cu inteligență artificială să regăsească informații, să coordoneze fluxuri de lucru, să declanșeze acțiuni și să actualizeze sisteme în timp real.

Automatizarea economisește mult timp pentru echipe, dar este în continuare important să se mențină controlul și responsabilitatea pentru a evita acțiunile neintenționate. Echipele de securitate solicită de obicei analiștilor să revizuiască deciziile cu risc ridicat, permițând în același timp mai multă autonomie pentru acțiunile cu risc mai scăzut. În oricare dintre situații, este important să se stabilească guvernarea datelor și controale de acces pentru a contribui la asigurarea faptului că inteligența artificială interacționează doar cu sisteme și date aprobate.

Măsurarea succesului – măsurători și ROI

Echipele de securitate care au cel mai mare succes cu agenții cu inteligență artificială implementează instrumente de măsurare pentru a evalua cât de bine își ating obiectivele. Acest lucru le oferă informațiile de care au nevoie pentru a-și ajusta și rafina implementările.

Măsurătorile cheie ale succesului includ:

Măsurători operaționale

Datele care ajută la determinarea eficienței operațiunilor de securitate includ:

  • MTTD și MTTR.
  • Numărul de alerte triate sau închise automat.
  • Reducerea ratei de rezultate fals pozitive.
  • Timpul necesar pentru a investiga și rezolva incidentele.

Măsurători privind forța de muncă

Aceste măsurători oferă conducerii detalii despre modul în care agenții cu inteligență artificială schimbă felul în care echipele de securitate își petrec timpul:

  • Orele analiștilor recuperate din investigații și triaj manual.
  • Rata de escaladare pentru alertele care necesită intervenția analistului.
  • Timpul până la înrolare pentru noii analiști care utilizează fluxuri de lucru asistate de inteligență artificială.
  • Reducerea activităților repetitive sau cu valoare redusă.

Măsurători de business

Liderii pot vedea, de asemenea, modul în care îmbunătățirile de securitate influențează întreaga organizație prin măsurători precum:

  • Cost per incident de securitate.
  • Acoperire în toate mediile, identitățile, punctele finale și resursele cloud
  • Postura generală de conformitate și nivelul de pregătire pentru audit.
  • Reducerea în timp a expunerii la riscuri operaționale.

Riscuri, limitări și considerente de siguranță

Deoarece sistemele de agenți funcționează cu niveluri variabile de autonomie, guvernanța, transparența și controlul sunt esențiale pentru o implementare sigură.

Riscuri operaționale și tehnice

  • Agenți din umbră și automatizare negestionată. Pe măsură ce sistemele de agenți se scalează, organizațiile pot crea neintenționat agenți negestionați sau duplicați. Fără supraveghere adecvată, acești „agenți din umbră” pot introduce comportamente inconsecvente sau acțiuni neautorizate.
  • Halucinații și rezultate fals pozitive. La fel ca alte sisteme de inteligență artificială, agenții cu inteligență artificială pot produce concluzii incorecte sau pot interpreta greșit datele, ceea ce poate duce la alerte inutile sau la acțiuni incorecte dacă nu sunt validați.
  • Supra-automatizare și pierderea supravegherii. Dependența excesivă de automatizare poate reduce vizibilitatea asupra proceselor de luare a deciziilor, crescând riscul de omiterea contextului sau de acțiuni neadecvate.
  • Confidențialitatea datelor și controlul accesului. Sistemele de agenți cu inteligență artificială necesită acces la date de securitate confidențiale, ceea ce face esențiale controalele stricte privind permisiunile, limitele datelor și accesul cu privilegiile minime.
  • Deriva modelului și manipularea de către adversari. În timp, performanța modelului se poate degrada pe măsură ce mediile se schimbă. În plus, atacatorii cibernetici pot încerca să manipuleze intrările sau măsurătorile pentru a influența comportamentul agentului.

Aspecte legate de reglementare și conformitate

  • NIST AI Risk Management Framework (AI RMF) oferă îndrumări pentru gestionarea riscurilor legate de inteligența artificială pe tot parcursul ciclului de viață, inclusiv guvernanță, mapare, măsurare și gestionare.
  • ISO/IEC 42001 stabilește cerințe pentru un sistem de gestionare a inteligenței artificiale, concentrându-se pe dezvoltarea și utilizarea responsabilă a sistemelor de inteligență artificială.
  • EU AI Act introduce clasificarea bazată pe riscuri și cerințe de conformitate pentru sistemele de inteligență artificială care funcționează în Uniunea Europeană sau au impact asupra acesteia.
  • Reglementările specifice sectoarelor sunt cerințe unice pentru anumite industrii, cum ar fi Legea privind contabilitatea și portabilitatea pentru asigurările de sănătate (HIPAA) pentru protecția datelor din domeniul sănătății, Payment Card Industry Data Security Standard (PCI DSS) pentru securitatea plăților și Sarbanes-Oxley Act (SOX) pentru controalele de Raportare financiară.

Proiectarea unei strategii responsabile pentru agenții cu inteligență artificială

Pe măsură ce echipele de securitate implementează și scalează inteligența artificială pentru securitate cibernetică cu agenți în cadrul organizațiilor lor, o strategie bine gândită ajută la îmbunătățirea rezultatelor de securitate, menținând în același timp transparența, responsabilitatea și încrederea între echipe.

Principii pentru implementare sigură

Organizațiile introduc de obicei agenții cu inteligență artificială în etape controlate, începând cu cazuri de utilizare de asistență cu risc scăzut înainte de a se extinde către acțiuni cu impact mai mare. De asemenea, este important să se prioritizeze transparența în modul în care agenții de securitate iau decizii.

Mecanisme de protecție și fluxuri de lucru de aprobare

Mecanismele de protecție bine definite ajută la limitarea comportamentului agentului la limite sigure și așteptate. Pentru a reduce riscul de comportament neașteptat, echipele definesc ce acțiuni pot finaliza autonom agenții de inteligență artificială pentru securitate cibernetică, stabilesc fluxuri de lucru de aprobare pentru operațiuni cu impact ridicat sau confidențiale și stabilesc praguri pentru momentele în care agenții de securitate trebuie să escaladeze către analiști.

Acces pe bază de roluri pentru agenții de inteligență artificială

Controlul accesului pe bază de roluri (RBAC) ajută la reducerea riscului de activitate neintenționată prin restricționarea accesului agentului la sistemele, datele și acțiunile necesare pentru funcția sa specifică. Din acest motiv, echipele de identitate aplică agenților aceleași principii ale privilegiului minim pe care le aplică și oamenilor.

Monitorizarea și auditarea acțiunilor agenților

Pentru a menține vizibilitatea asupra comportamentului agentului, echipele de securitate înregistrează în jurnale și auditează toate acțiunile agentului, inclusiv deciziile, utilizarea instrumentelor și rezultatele. Acest lucru le ajută să investigheze incidentele, să îndeplinească cerințele de conformitate și să detecteze problemele de implementare care trebuie ajustate fin.

Construirea încrederii cu analiștii

Analiștii sunt mai predispuși să adopte agenții cu inteligență artificială dacă se simt informați și în control. Organizațiile pot construi încredere asigurându-se că recomandările agenților sunt clare și ușor de înțeles. De asemenea, au mai mult succes atunci când utilizează inteligența artificială pentru a completa, nu pentru a înlocui, luarea deciziilor de către analiști.

Aliniere interfuncțională

Centrele de operațiuni de securitate (SOC), echipele IT și echipele de conformitate joacă toate un rol în implementarea în siguranță și eficientă a agenților cu inteligență artificială, în conformitate cu toleranța la risc a organizației. O echipă interdisciplinară ajută organizațiile să definească cazuri de utilizare operaționale, să gestioneze integrarea și infrastructura și să respecte cerințele de reglementare.

De la automatizare la securitate cu agenți

Crearea unor fluxuri de lucru doar cu agenți care funcționează în toate domeniile de securitate este un proces în mai multe etape. Pe măsură ce organizațiile își cresc maturitatea operațională, au nevoie de guvernanță și supraveghere mai puternice.

Etapa 1: Automatizare bazată pe scripturi

În stadiul cel mai timpuriu, organizațiile folosesc scripturi și fluxuri de lucru predefinite pentru a gestiona activitățile repetitive de securitate.

Cum arată succesul:

  • Finalizarea consecventă a activităților de rutină, cum ar fi îmbogățirea alertelor sau crearea de tichete.
  • Efort manual redus în fluxurile de lucru cu complexitate scăzută.
  • Dependență de reguli statice și manuale de proceduri.

Indicatori de pregătire:

  • Integrări SIEM, SOAR și de gestionare a tichetelor stabile.
  • Procese de securitate clar definite și repetabile.
  • Un volum mare de activități repetitive ale analiștilor.

Etapa 2: Analiză asistată de inteligență artificială

În această etapă, inteligența artificială sprijină analiștii prin îmbunătățirea vizibilității, a rezumării și a luării deciziilor, dar nu întreprinde acțiuni directe.

Cum arată succesul:

  • Investigație mai rapidă prin rezumate și detalii generate de inteligența artificială.
  • Înțelegere îmbunătățită a alertelor și îmbogățire a contextului.
  • Analiștii rămân pe deplin responsabili pentru decizii și acțiuni.

Indicatori de pregătire:

  • Canale de date mature și măsurători centralizate.
  • Procese de operațiuni de securitate bine stabilite.
  • Necesitatea unui triaj mai rapid și a sprijinului pentru investigații.

Etapa 3: Agenți semi-autonomi

Aici, agenții cu inteligență artificială încep să întreprindă acțiuni limitate în cadrul unor mecanisme de protecție definite, în timp ce oamenii păstrează autoritatea de aprobare pentru operațiunile cu risc mai ridicat.

Cum arată succesul:

  • Triaj automatizat, îmbogățire și pași recomandați pentru remediere.
  • Reducerea volumului de muncă al analiștilor pentru activitățile repetitive de investigație.
  • Aprobare cu intervenție umană pentru acțiunile de izolare și remediere.

Indicatori de pregătire:

  • Controale puternice privind identitatea și accesul pentru sistemele de automatizare.
  • Fluxuri de lucru de escaladare și aprobare bine definite.
  • Încredere în calitatea datelor și în integrările de sistem.

Etapa 4: Fluxuri de lucru doar cu agenți

În etapa cea mai matură, agenții cu inteligență artificială funcționează în mai multe domenii, coordonând acțiunile cu intervenție minimă din partea analiștilor, în limitele stabilite. Acest lucru permite orchestrarea securității de la un capăt la altul în întreaga organizație.

Cum arată succesul:

  • Detectare, investigație și răspuns autonome și continue în toate mediile.
  • Coordonare între domenii între sistemele de securitate, IT, identitate și conformitate.
  • Oamenii se concentrează pe guvernanță, strategie și gestionarea excepțiilor.

Indicatori de pregătire:

  • Cadre de guvernanță mature pentru inteligența artificială și automatizare.
  • Măsurători cu nivel ridicat de încredere și integritatea datelor în toate sistemele.
  • Aliniere interfuncțională puternică între echipele de securitate, IT și conformitate.
  • Încredere bine stabilită în luarea automată a deciziilor, care se poate audita și supraveghea.

Tendințe ale agenților cu inteligență artificială în securitatea cibernetică

Agenții cu inteligență artificială se află încă la începutul curbei de adoptare, însă mai multe tendințe clare modelează modul în care va evolua în domeniul securității.

  • Exerciții red team autonome. Agenții de inteligență artificială vor simula din ce în ce mai mult comportamentul adversarilor pentru a testa continuu măsurile de apărare, a identifica punctele slabe și a valida controalele de securitate în timp real.
  • Bucle ale agenților. Agenții cu inteligență artificială pentru operațiuni de securitate vor dobândi o funcționare continuă și capabilă de auto-îmbunătățire, agenții percepând, acționând și învățând din rezultate pentru a rafina detectarea și răspunsul.
  • Conflict cibernetic AI-la-AI. Pe măsură ce și atacatorii cibernetici adoptă inteligența artificială, viitoarele confruntări cibernetice pot implica sisteme defensive și ofensive de agenți care concurează direct între ele.
  • Apărare predictivă. În loc să reacționeze la incidente, sistemele de agenți vor anticipa amenințările analizând modele, date de expunere și comportamentul atacatorilor pentru a preveni atacurile cibernetice înainte ca acestea să se producă.
  • Agenți colaborativi de inteligență artificială. Mai mulți agenți specializați vor coordona activități precum detectarea, investigația, remedierea și raportarea, pentru a crea fluxuri de lucru de securitate mai scalabile și mai reziliente.
  • Rolul în evoluție al analistului. Analiștii se vor îndepărta de activitățile repetitive de investigație și răspuns, orientându-se către responsabilități cu valoare mai mare, precum supravegherea agenților, proiectarea politicilor și gestionarea strategică a riscurilor.

Microsoft Security și agenții cu inteligență artificială

Organizațiile pot detecta, investiga și răspunde la amenințări în întregul lor mediu digital cu o platformă de securitate unificată, pe platformă de inteligență artificială, de la Microsoft. În centru se află Microsoft Security Copilot, o soluție de securitate în limbaj natural, asistată de inteligență artificială, care le permite analiștilor să raționeze asupra incidentelor, să rezume amenințările și să coordoneze acțiunile de răspuns în toate mediile. Agenții încorporați extind aceste capacități în toate soluțiile Microsoft Security.

Microsoft Defender XDR: Operațiuni SOC cu agenți

Echipele de securitate sunt adesea copleșite de volumul alertelor, de triajul manual și de investigațiile fragmentate. În Microsoft Defender XDR, agenții cu inteligență artificială ajută la prioritizarea problemelor cu risc ridicat, la investigarea mai rapidă a incidentelor și la îmbunătățirea eficienței răspunsului.

  • Agent de triaj al alertelor de securitate – Prioritizează alertele pentru a reduce zgomotul și pentru a-i ajuta pe analiști să se concentreze mai rapid pe incidentele cu risc ridicat.
  • Agent analist de securitate – Investighează incidente, corelează semnale și recomandă acțiuni de răspuns pentru a simplifica fluxurile de lucru SOC.
  • Agent de detectare a amenințărilor – Caută în toate mediile pentru a descoperi amenințări ascunse, comportamente suspecte și modele de atac emergente.
  • Agent de detectare dinamică a amenințărilor – Analizează continuu activitatea și adaptează logica de detectare pentru a identifica amenințări și anomalii în evoluție.
  • Agent de informare privind investigarea amenințărilor – Rezumă investigarea amenințărilor în detalii utile, astfel încât echipele să poată anticipa riscurile emergente.

Împreună, acești agenți contribuie la reducerea investigațiilor manuale și accelerează răspunsul la incidente în puncte finale, identități, e-mail și sarcini de lucru în cloud.

Microsoft Sentinel: detectare, căutare activă și orchestrare asistate de inteligență artificială

În Microsoft Sentinel, Security Copilot îi ajută pe analiști să treacă de la investigația manuală la fluxuri de lucru în limbaj natural, conduse de secvențe de solicitări. Analiștii pot genera KQL, rezuma incidente, îmbogăți entități, analiza utilizatori și dispozitive și automatiza pașii investigației prin Logic Apps și secvențe de solicitări.

Un agent Sentinel personalizat pentru raportarea incidentelor poate extrage din incidente constatările investigației, entitățile, detaliile și pașii de remediere. Secvențele de solicitări pot automatiza, de asemenea, analiza utilizatorilor și pot adăuga constatările direct în jurnalele de activitate ale incidentelor.

Aceste capacități contribuie la reducerea redactării manuale a interogărilor, îmbunătățesc consecvența investigațiilor și economisesc timp pentru analiști prin automatizarea activităților repetabile.

Microsoft Purview: securitate și conformitate a datelor cu agenți

În Microsoft Purview, Security Copilot ajută echipele să securizeze și să guverneze datele prin Gestionarea posturii de securitate a datelor, Prevenirea pierderii de date, Gestionarea riscurilor interne, Descoperirea informațiilor electronice, Auditare și Conformitatea în comunicări.

  • Agentul triajului de securitate a datelor – Prioritizează alertele DLP și de risc intern, explică contextul de risc și poate iniția fluxuri de lucru de remediere cu proprietarii datelor.
  • agentul posturii de securitate a datelor – Descoperă date confidențiale, identifică riscuri ascunse și acreditări expuse, îmbunătățește etichetarea confidențialității și generează rezumate pregătite pentru conducere.

Acești agenți ajută echipele de securitate să reducă triajul manual, să prioritizeze mai rapid riscurile critice și să consolideze operațiunile de securitate și conformitate a datelor.

Microsoft Entra: agenți pentru identitate și acces

În Microsoft Entra, Security Copilot ajută echipele să investigheze utilizatori riscanți, conectări neobișnuite, acces privilegiat și amenințări bazate pe identitate. Copilot poate rezuma contextul identității, poate explica semnalele de risc și poate recomanda acțiuni precum revocarea sesiunii, revizii de acces sau ajustarea politicii de Acces condiționat.

Capacitățile includ agenți pentru identitate și acces și ID Agent Microsoft Entra, care ajută organizațiile să înregistreze, să gestioneze și să guverneze identitățile agenților de inteligență artificială cu gestionarea ciclului de viață, guvernanța accesului și controale de protecție a identității.

Aceste capacități ajută organizațiile să reducă riscul de identitate și să aplice principiile Zero Trust atât pentru identitățile umane, cât și pentru cele ale inteligenței artificiale.

Microsoft Intune: agenți de gestionare a punctelor finale

În Microsoft Intune, Security Copilot ajută echipele IT și de puncte finale să înțeleagă conformitatea dispozitivelor, deriva configurației, expunerea la vulnerabilități și necesitățile de remediere. Copilot poate rezuma riscul dispozitivului, poate explica problemele de neconformitate, poate recomanda pașii următori și poate ajuta echipele să răspundă mai rapid.

Agenții de gestionare a punctelor finale ajută la automatizarea verificărilor de conformitate, la investigarea problemelor dispozitivelor și la ghidarea remedierii în toate punctele finale gestionate.

Aceste capacități ajută la reducerea investigațiilor manuale ale punctelor finale, la îmbunătățirea operațiunilor de conformitate și la eliminarea mai rapidă a lacunelor de configurare.

Împreună, Microsoft Security Copilot și agenții încorporați ajută organizațiile să treacă de la operațiuni de securitate reactive, manuale, la o apărare adaptivă, asistată de inteligență artificială, care îmbunătățește protecția, viteza și scalarea pe tot parcursul ciclului de viață al securității.

Întrebări frecvente

  • Agenții cu inteligență artificială se referă la sisteme de inteligență artificială cu autonomie și capacități de raționament, care urmăresc obiective definite cu solicitări minime. Spre deosebire de automatizarea tradițională, aceste sisteme se pot adapta la condiții în schimbare, pot planifica fluxuri de lucru în mai mulți pași și pot învăța continuu din rezultate pentru a îmbunătăți performanța.
  • Inteligența artificială generativă creează conținut, cum ar fi text, rezumate sau cod, ca răspuns la solicitări, în timp ce agenții cu inteligență artificială planifică și întreprind acțiuni pentru a îndeplini obiective de securitate definite.
  • Agenții cu inteligență artificială din securitatea cibernetică înseamnă implementarea de agenți care analizează autonom datele, investighează anomaliile și orchestrează fluxurile de lucru de securitate de la un capăt la altul.
  • Un exemplu obișnuit de agenți cu inteligență artificială în securitate sunt agenții de triaj al alertelor SOC care îmbogățesc automat alertele de securitate cu date contextuale, calculează scoruri de risc și recomandă pașii următori pentru reducere.
  • Soluțiile de orchestrare, automatizare și răspuns în materie de securitate (SOAR) se bazează pe manuale de proceduri statice, predefinite, pentru a automatiza acțiunile de răspuns, ceea ce le face foarte procedurale și limitate în adaptabilitate. Prin contrast, agenții cu inteligență artificială analizează contextul, ajustează dinamic fluxurile de lucru și învață continuu, ceea ce le permite să gestioneze scenarii de atac cibernetic complexe sau în evoluție fără a depinde de reguli rigide de orchestrare.

Urmăriți Microsoft Security

Română (România) Confidențialitatea pentru sănătatea consumatorilor Contactați Microsoft Confidențialitate Gestionare cookie-uri Condiţii de utilizare Mărci comerciale Despre reclamele noastre EU Compliance DoCs