This is the Trace Id: 29c942e3be3fa2e980c71fadea807101

Pridružite se seji izvršnega odbora na konferenci RSAC 24. marca z naslovom »Posredniki UI so tu! Ali ste pripravljeni?«.

Registrirajte se zdaj

Microsoftov vodnik za zagotavljanje varnosti podjetja, ki uporablja UI – strategije za upravljanje UI

Prenesite vodnik
Skupna raba
Moški v zeleni srajci sedi za mizo z računalnikom.

Pregled

Inovacije na področju UI prinašajo izjemne priložnosti, vendar tudi potencialna tveganja, kar dokazujejo nedavni pomisleki glede zasebnosti v zvezi z uporabo podatkov evropskih uporabnikov na eni od večjih platform družbenih medijev ter globalni predpisi. Platforma se je soočila s širokim odzivom javnosti in morebitnimi večmilijardnimi tožbami zaradi načrtov, da bi za učenje UI izkoristila podatke evropskih uporabnikov brez pridobljenega izrecnega soglasja, pri čemer se je namesto tega zanašala na mehanizem zavrnitve sodelovanja, kar je sprožilo resne pomisleke glede zasebnosti.

Proaktivno in odgovorno upravljanje UI.

Učinkovito upravljanje umetne inteligence presega zgolj skladnost s predpisi. Gre za celovito strategijo, ki omogoča odgovorno inoviranje, gradi zaupanje zainteresiranih skupin in ustvarja trajnostno konkurenčno prednost. Z njenim sprejetjem lahko organizacije izkoristijo preobrazbeno moč UI in hkrati ublažijo tveganja.

Ta vodnik nadgrajuje našo serijo »Zagotavljanje varnosti podjetja, ki uporablja UI«, v kateri smo raziskovali, kako maksimizirati polni potencial UI z upoštevanjem ogrodja za uvedbo UI (prikazanega spodaj), ki usklajuje pobude na področju UI s poslovnimi cilji in etičnimi vrednotami ter zajema oblikovanje, upravljanje, zaščito UI in nadzor UI.

Preoblikovanje upravljanja UI iz ublažitve tveganja v strateško prednost se začne zdaj.

Posledice nezadostnega upravljanja UI


Pomanjkanje močne strategije upravljanja UI lahko potencialno vodi do pomembnih tveganj in negativnih posledic. Poglejmo številke:
  • 95 % podjetij prepoznava potrebo po prenovi upravljanja zaradi razvoja umetne inteligence, a se mnogi soočajo z omejitvami proračuna in organizacijsko inertnostjo.1
  • 67 % podjetij se težko premakne iz pilotnih faz projektov UI zaradi vrzeli v upravljanju.2
  • 50 % organizacij se sooča s pomisleki glede zasebnosti pri uvajanju UI brez ustreznega upravljanja.2
  • Sistemi UI brez vzpostavljenega upravljanja imajo 40 % večjo verjetnost pristranskosti, kar lahko povzroči škodo ugledu in pravne posledice.3
  • Podjetja brez upravljanja UI zaradi neučinkovitosti in neskladnosti s predpisi se soočajo z do 30 % višjimi operativnimi stroški.4

Upravljanje umetne inteligence – pristop s tremi stebri

Učinkovito upravljanje UI zahteva enotno strategijo, ki zajema tri medsebojno povezane stebre – upravljanje podatkov, upravljanje UI in upravljanje predpisov. Ta celovit pristop organizacijam pomaga graditi zanesljive sisteme UI, upravljati tveganja in zagotavljati skladnost s predpisi.

Upravljanje podatkov je temeljni element. Zagotavlja celovitost in zaupanje v podatke, ki omogočajo zanesljive rezultate UI. Več kot le tehnologija, zahteva osredotočenost na ljudi in kulturo, vključevanje ekip ter nadgrajevanje njihovih znanj za učinkovito upravljanje podatkov. Ta robustna podatkovna osnova omogoča ključno ravnovesje med zaščito podatkov (ublažitvijo tveganja) in izkoriščanjem podatkov (omogočanje uporabe za podjetja), kar spodbuja inovacije namesto, da bi jih omejevala.

Vsak steber naslavlja specifične, delno prekrivajoče se izzive – od kakovosti podatkov in etične uvedbe UI do skladnosti s predpisi. Uspeh je odvisen od prilagajanja strategije upravljanja vašim specifičnim aplikacijam UI, npr. tradicionalno strojno učenje, generativna UI ali sistemi z agentno umetno inteligenco. To pogosto pomeni uvajanje upravljanja podatkov že v zasnovi, tako da postane intuitivni del vsakodnevnega poslovanja.

Čeprav ima vsak steber svoje specifično področje osredotočenosti, imajo skupne elemente, ki krepijo vaš celotni pristop. Te medsebojno prepletene teme se pojavljajo skozi celotno strategijo upravljanja:

Ravnovesje med vrednostjo in tveganjem: Razvrstite in določite prioritete glede na potencialni vpliv.
Dokumentacija in pripravljenost na spremljanje sprememb: Vzdržujte obsežne zapise za preglednost.
Vključevanje zainteresirane skupine: Aktivno vključite relevantne ekipe, dobavitelje in končne uporabnike.
Nenehno nadzorovanje: Redno ocenjujte in izboljšujte prakse upravljanja.

Upravljanje podatkov

Upravljanje podatkov vzpostavlja temelje za zanesljivo UI, saj omogoča odgovorno aktiviranje podatkov za UI in druge aplikacije. S pomočjo pravilnikov in procesov zagotavlja kakovost podatkov, varnost ter odgovorno ravnanje z njimi skozi celoten življenjski cikel. Ker so sistemi UI zanesljivi le toliko, kot so zanesljivi podatki, na katerih temeljijo, lahko slabo upravljanje podatkov vodi do pristranskih, netočnih ali nezanesljivih rezultatov UI.

Upravljanje UI

Upravljanje UI zagotavlja ogrodje pravilnikov in procesov, ki vodi odgovorno uvedbo, uvajanje in nadzorovanje aplikacij UI v celotni organizaciji. Ker lahko sistemi UI pomembno vplivajo na poslovanje in izkušnje strank, ustrezno upravljanje pomaga zagotoviti, da ostajajo varni, pregledni in usklajeni z vrednotami organizacije.

Uspešno upravljanje UI temelji na dveh temeljnih elementih: vzpostavitvi temeljnih načel, ki usmerjajo vse aktivnosti UI, ter celovitem ogrodju za izvajanje, ki zajema tako življenjski cikel UI kot sodelovanje zainteresiranih skupin.

Upravljanje predpisov

Upravljanje predpisov zagotavlja, da sistemi UI izpolnjujejo veljavno zakonodajo in predpise, hkrati pa kažejo prakso odgovornega inoviranja. Ker se okolje predpisov za UI hitro spreminja, proaktivna skladnost pomaga preprečevati kazni, zmanjšuje pravna tveganja in gradi zaupanje zainteresiranih skupin. Izpolnjevanje pričakovanj predpisov zahteva obravnavo teh ključnih zahtev, s poudarkom na skladnosti »shift-left«.

Od ublažitve tveganj do strateške prednosti

V dobi umetne inteligence sta celovitost podatkov in zaupanje ključnega pomena. Učinkovito upravljanje umetne inteligence ni zgolj nabor pravilnikov in procesov, temveč strateška nuja za organizacije, ki želijo uspeti. Z vzpostavitvijo robustnega programa upravljanja, ki temelji na zmogljivem upravljanju podatkov in kulturi odgovorne uporabe umetne inteligence, lahko:

Izboljšate inovacije: Ustvarite okvir, ki omogoča odgovorno eksperimentiranje in inovacije z umetno inteligenco. To vključuje iskanje ključnega ravnovesja med zaščito podatkov (upravljanje tveganj in zagotavljanje skladnosti) ter izkoriščanjem podatkov (povečevanje poslovne vrednosti in omogočanje novih zmožnosti).
Povečate zaupanje: Gradite zaupanje med strankami, partnerji in zainteresiranimi skupinami z zavezanostjo k odgovorni UI. To se doseže z vzpostavitvijo kulture, osredotočene na podatke, kjer so zaposleni opolnomočeni, nadgrajeni v znanju in vključeni v proces upravljanja.
Zmanjšate tveganja: Ublažite potencialno škodo, pristranskosti in varnostne ranljivosti, povezane z umetno inteligenco, ter zagotovite, da so vaši podatki zanesljiva in zaupanja vredna osnova za vse rezultate UI.

Ne čakajte z začetkom gradnje programa upravljanja UI. Ukrepajte že danes, da postavite temelje za etično in učinkovito uvedbo UI, pri čemer upoštevajte, da je uspešno upravljanje UI upravljanje podatkov že v zasnovi, ki je brezhibno integrirano v vaše poslovanje.

Prenesite vodnik

Več podobnega

Oseba uporablja prenosnik in z enim prstom kaže na tipkovnico.
3 minute

Microsoftov vodnik za zagotavljanje varnosti podjetja, ki uporablja UI – Uvod

Preberite vodnik
Moški in ženska, ki gledata v zaslon računalnika.
5 minut

Microsoftov vodnik za zagotavljanje varnosti podjetja, ki uporablja UI – strategije za skladnost UI

Preberite vodnik
Bela risba pisma v ovojnici z besedo »New« na modrem ozadju.

Pridobite CISO Digest

Ostanite korak pred drugimi z vpogledi strokovnjakov, trendi v industriji in raziskavami varnosti v tej seriji e-poštnih sporočil, na vsaka dva meseca.
Prijava

Spremljajte Microsoftovo varnost