Pridružite se seji izvršnega odbora na konferenci RSAC 24. marca z naslovom »Posredniki UI so tu! Ali ste pripravljeni?«.

Microsoftov vodnik za zaščito podjetij, ki uporabljajo UI: upravljanje in varnost podatkov

Prenesite vodnik

Skupna raba

Moški v obleki stoji pred modrim ozadjem.

Pregled

Ker se organizacije hitro odločajo za uvedbo umetne inteligence v velikem obsegu, sta upravljanje podatkov in varnost podatkov kot stebra odpornosti podjetij postala še bolj medsebojno odvisna. Za pionirska podjetja, tj. organizacije, ki premikajo meje preobrazbe s pomočjo umetne inteligence, zahteva zmožnost opolnomočenja sistemov UI za sklepanje na podlagi obsežnih podatkovnih okolij partnerstvo brez primere med direktorji informatike (CIO), direktorji informacijske varnosti (CISO) in njihovimi sodelavci s področja podatkov. Brez skupnega lastništva in enotnega izvajanja se tveganja, kot so uhajanje podatkov, prekomerno deljenje in neustrezna uporaba umetne inteligence, eksponentno povečujejo.

Ta vodnik nadgrajuje prejšnje teme iz serije Zaščita podjetja, ki uporablja umetno inteligenco, da vam pomaga pri varni uvedbi umetne inteligence in izkoristku vaše naložbe.

Vrzeli v upravljanju

V nekaterih organizacijah se umetna inteligenca uvaja hitreje, kot lahko tradicionalne strukture upravljanja sledijo temu tempu. Po Microsoftovem indeksu varnosti podatkov le 47 % organizacij v različnih panogah poroča, da uvajajo specifične varnostne ukrepe za generativno UI¹, kar izpostavlja priložnost za pridobitev jasnega pregled, ki je ključen za varno uvedbo UI. Še pomembneje je, da je po mednarodni raziskavi med več kot 1700 strokovnjaki za varnost podatkov, ki jo je za Microsoft izvedla skupina Hypothesis, že 29 % zaposlenih uporabilo neodobrene posrednike UI za delovne naloge.² Organizacije se zato soočajo z novimi izzivi pri ravnanju s podatki, preglednosti varnosti in skladnosti s predpisi, zlasti ko orodja generativne UI delujejo z občutljivimi ali nestrukturiranimi podatki.

Hkrati se odzivajo tudi vodje podjetij: vedno več organizacij uvaja specializirane ukrepe za generativno UI in pospešuje naložbe v tehnične in operativne zaščitne ukrepe. Sporočilo je jasno: inovacije na področju umetne inteligence ne morejo uspevati brez upravljanja, ki jih podpira in varuje.

Enoten model lastništva: razvrščanje, označevanje, zaščita in upravljanje

Učinkovito upravljanje podatkov zahteva jasno opredelitev odgovornosti med vlogami CIO, CISO, glavnega pooblaščenca za podatke (CDO) in glavnega pooblaščenca za zasebnost (CPO). Vendar pa je v mnogih organizacijah lastništvo še vedno razdrobljeno. Za premostitev te vrzeli priporočamo skupni model: razvrščanje, označevanje, zaščita in upravljanje.

1. Razvrščanje: vzpostavitev preglednosti in lastništva

Pot upravljanja se začne z jasnim vpogledom v obstoječe podatke. Organizacije morajo vzpostaviti celovit nadzor nad strukturiranimi, nestrukturiranimi in z umetno inteligenco ustvarjenimi podatki, vključno z možnostjo sledenja novim posrednikom UI. Razvrščanje zahteva:

pregledno in intuitivno shemo, povezano s poslovnimi tveganji,
določene lastnike podatkov in skrbnike v poslovnih enotah in
sprotno vodenje inventarja, podprto z aktivnostmi odkrivanja pod vodstvom direktorja informatike (CIO).

Razvrščanje postavlja temelje za vse nadaljnje ukrepe.

2. Označevanje: uresničevanje upravljanja

Če razvrščanje določa namen, označevanje poskrbi za njegovo uveljavitev. Oznake občutljivosti povežejo pravilnik z dejansko uporabo, usmerjajo varnostne sisteme, nadzore dostopa in celo način, kako zaposleni uporabljajo rezultate posrednikov UI.

Med ključne elemente spadajo:

Uvajanje tehnologije, ki omogoča izvedbo označevanja in zagotavlja, da oznake aktivno sprožajo pravilnike o varnosti in preprečitvi izgube podatkov (DLP).
Strategija označevanja, ki temelji na oceni tveganj in odraža vpliv na podjetje.
Usposabljanje zaposlenih, ki jasno določa, kdaj in kako pravilno uporabljati oznake.

3. Zaščita: vzpostavitev varnosti v praksi

Zaščita pomeni, da pravilniki postanejo učinkoviti varovalni ukrepi. To vključuje:

uveljavljanje pravilnika z nadzorom dostopa, kot so nadzor dostopa na osnovi vlog (RBAC), dostop ravno ob pravem času (JIT) in preprečitev izgube podatkov (DLP),
šifriranje neaktivnih in aktivnih podatkov,
avtomatizirano spremljanje za preprečitev prekomernega deljenja in kršitve pravilnikov in
strukturirane načrte odzivov na dogodke, usklajene z zakonodajo o varstvu zasebnosti.

Ti ukrepi zagotavljajo zaščito občutljivih podatkov tudi, ko jih uporabljajo orodja UI in jih obdelujejo v velikem obsegu.

4. Upravljanje: nadzor celotnega življenjskega cikla podatkov

Upravljanje je neprekinjen proces. Organizacije morajo vzdrževati:

pravilnike o hranjenju in brisanju podatkov, ki so usklajeni z načeli najmanjšega obsega podatkov,
stalno spremljanje odstopanja podatkov, napačnega označevanja in anomalij pri dostopu,
avtomatizirano ponovno potrjevanje lastništva podatkov in
preglednost in upravljanje posrednikov UI med ekipami za IT ter razvojnimi in varnostnimi ekipami.

Upravljanje življenjskega cikla zmanjšuje tarčo napada in zagotavlja dolgoročno usklajenost med uporabo podatkov in poslovno vrednostjo.

Obzorje: upravljanje zaposlenih, ki združuje ljudi in posrednike UI

Posredniki UI prevzemajo vse bolj zahtevne poteke dela, zato se mora upravljanje temu primerno razvijati. Pionirska podjetja uvajajo koncept nadzornika posrednikov, tj. nova vloga, ki vsakemu zaposlenemu dodeli odgovornost za digitalne delavce, ki jih uvaja.

Ta premik ustvarja nova pooblastila za tehnološko vodstvo:

Za direktorje informatike:

Vzpostavite zunanji ekosistem UI, v katerem lahko poslovne enote varno ustvarjajo in uvajajo posrednike z uporabo odobrenih predlog pod nadzorom središča odličnosti za umetno inteligenco.

Za direktorje informacijske varnosti:

Razširite Ničelno zaupanje tudi na avtonomne posrednike in ne le na človeške uporabnike. To pomeni:

vzpostavitev evidence vseh posrednikov in njihovih identitet,
uveljavljanje dostopa z najmanjšimi pravicami, ki so usklajene z delovnimi nalogami posameznega posrednika, in
nadzor delovanja posrednikov in delovanje ob predpostavki kršitve, ko posredniki uporabljajo občutljive podatke.

Pripravljenost na avtonomno podjetje je odvisna od združevanja teh novih kontrolnih ukrepov s človeško odgovornostjo.

Vaših prvih 180 dni: skupni postopkovni priročnik za direktorje informatike in direktorje informacijske varnosti

Pot se začne s strukturiranim načrtom, ki vodjem oddelkov za IT in varnost pomaga uresničiti upravljanje umetne inteligence na ravni podjetja:

Prvi teden: temeljna uskladitev

Opredelite skupno shemo razvrščanja podatkov.
Preslikajte ključna sredstva in zahteve za neprekinjeno delovanje.
Uskladite standarde za ustvarjanje in preverjanje posrednikov UI.

Prvih 90 dni: odkrivanje in preslikava nadzora

Ustvarite evidenco primerov uporabe UI in povezanih virov podatkov.
Izvedite analizo preprečitve izgube podatkov in vrzeli v nadzoru.
Ustvarite skupni register tveganj in določite prednostne pilotne primere uporabe.

Prvih 180 dni: izvedba in preverjanje

Uvedite nove oznake in pravilnike v pilotne poslovne enote.
Uvedite avtomatizirano preprečitev izgube podatkov za scenarije z visokim tveganjem.
Vzpostavite mesečni svet za upravljanje, ki bo nenehno izpopolnjeval nadzorne ukrepe.

Ta postopkovni priročnik organizacijam omogoča preoblikovanje upravljanja podatkov iz zgolj funkcije skladnosti v strateški motor inovacij na področju umetne inteligence.

Ustanovitev podjetja, pripravljenega na umetno inteligenco

Pot do prihodnosti, ki uporablja UI, se začne z robustnim in soupravljanim temeljem za upravljanje in varnost podatkov. Z usklajevanjem odgovornosti direktorjev informatike (CIO) in direktorjev informacijske varnosti (CISO), vzpostavitvijo skupnega modela življenjskega cikla ter pripravo na hibridne zaposlene ljudi in posrednikov lahko organizacije samozavestno in varno izkoristijo polni potencial umetne inteligence.

Zdaj je pravi trenutek za postavitev teh temeljev.

Prenesite vodnik

Skupina ljudi sedi na kavču, ob tem pa je prikazano besedilo »NOVO Cyber Pulse poročilo o varnosti UI«.

Cyber Pulse – poročilo o varnosti umetne inteligence

Vpogledi v rast posrednikov UI in pot do odgovorne ter varne uvedbe prek preglednosti, upravljanja in varnosti.

Naslovnica knjige z naslovom »Microsoftove varnostne strategije za upravljanje umetne inteligence« s sliko moškega v zeleni majici, ki sedi za mizo z računalnikom.

Strategije za upravljanje UI

Dejavnostni koraki za ustvarjanje zaupanja, zmanjšanje tveganj, znižanje stroškov in spodbujanje inovacij

Bela risba pisma v ovojnici z besedo »New« na modrem ozadju.

Pridobite CISO Digest

Ostanite korak pred drugimi z vpogledi strokovnjakov, trendi v industriji in raziskavami varnosti v tej seriji e-poštnih sporočil, na vsaka dva meseca.

[1]
Microsoftov indeks varnosti podatkov za leto 2026 – Združevanje varovanja podatkov in inovacij UI, Microsoftova varnost, 2026
[2]
Mednarodna raziskava iz julija 2025 med več kot 1700 strokovnjaki za varnost podatkov, ki jo je za Microsoft izvedlo podjetje Hypothesis Group