This is the Trace Id: ce5ebb545220dc6ddc2017cd36aaf4bb

 

Cyber Pulse: tehisintellekti turberaport

Hiljutised Microsofti esmased telemeetriaandmed ja uuringud näitavad, et paljud organisatsioonid on hakanud töös TI-agente kasutama. Nüüd on juhtidel õige aeg rakendada jälgitavust, juhtimist ja turvet.
Lugege aruannet Jaga
Kolm kolleegi istuvad modernses kontoris aruteluala taga ning ülekatte tekst toob esile madalkoodiga tehisintellekti agentide kasutuselevõtu Fortune 500 ettevõtetes.

Väljaanne 1: sissejuhatus

Eesrindlikud organisatsioonid loovad uudseid töökeskkondi, kus inimesed ja agendid teevad koostööd, et suurendada inimeste võimekust ja ambitsioone. Hiljutised Microsofti andmed näitavad, et sellised inimeste ja agentide meeskonnad kasvavad ning levivad üle maailma laialdaselt.

Tehisintellekti agendid levivad kiiremini, kui mõned organisatsioonid suudavad neid jälgida, ning selline nähtavuse puudujääk kujutab endast äririski. Organisatsioonid vajavad kiiresti tõhusat haldust ja turvet, et võtta agente turvaliselt kasutusele, edendada innovatsiooni ja vähendada riske. Nagu inimkasutajad, vajavad ka tehisintellekti agendid kaitset jälgitavuse, juhtimise ja tugeva turbe toel, kasutades täisusaldamatuse põhimõtteid. Tehisintellekti kasutuselevõtu järgmises etapis, on edukaimad need ettevõtted, kes tegutsevad kiiresti ning ühendavad äri-, IT-, turbe- ja arendusmeeskonnad, et jälgida, hallata ja kaitsta tehisintellekti kasutuselevõttu.

Microsofti ökosüsteemis loovad ja juurutavad kliendid nüüd agente kõigil peamistel platvormidel – alates Fabricust ja Foundryst kuni Copilot Studio ja agendi koostajani –, mis peegeldab laiemat liikumist tehisintellektipõhise automatiseerimise suunas töövoogudes.

Agentide loomine ei piirdu ainult tehniliste rollidega; tänapäeval loovad ja kasutavad erinevatel ametikohtadel töötavad inimesed agente igapäevatöös. Tegelikult näitavad Microsofti andmed, et üle 80% Fortune 500 ettevõtetest juurutab aktiivseid agente, mis on loodud vähese koodikirjutusvajadusega või koodikirjutusvajaduseta tööriistade abil.1 Kuna agentide kasutus laieneb ja ümberkujundamise võimalused kasvavad, on nüüd õige aeg kehtestada põhikontrollid.

Nii nagu inimtöötajate puhul, tähendab täisusaldamatus ka agentide puhul järgmist:
 

  • Vähima vajaliku õiguse põhimõte: andke igale kasutajale, tehisintellekti agendile või süsteemile ainult see juurdepääs, mida nad vajavad – mitte rohkem.

  • Selgesõnaline kontrollimine: kinnitage alati, kes või mis taotleb juurdepääsu, kontrollides identiteeti, seadmete seisundit, asukohta ja riskitaset.

  • Eeldage kompromiteerimist: kujundage süsteemid eeldusel, et ründajad võivad saada juurdepääsu.

Graafik, mis näitab, et üle 80% Fortune 500 ettevõtetest kasutab aktiivselt madala kooditasemega agenditööriistu – küsi Copilotilt.

TI-agendid arenevad kiiresti – kõigis piirkondades ja valdkondades

Agentide kasutuselevõtt kiireneb üle kogu maailma – alates EMEA-st kuni Ameerika ja Aasiani.2
Tulpdiagramm, mis kujutab piirkondlikku jaotust: EMEA 42%, Ameerika Ühendriigid 29%, Aasia 19%, Ameerika mandrid 10%.
Microsoft näeb agentide kasutuselevõtu kasvu kõigis tegevusvaldkondades. Finantsteenused, tootmine ja jaemüük on agentide kasutuselevõtu esirinnas. Finantsteenused – sealhulgas pangandus, kapitaliturud ja kindlustus – moodustavad nüüd ligikaudu 11% kõigist aktiivsetest agentidest kogu maailmas.2 Tootmine moodustab 13% agentide ülemaailmsest kasutusest, mis näitab laialdast kasutuselevõttu tehastes, tarneahelates ja energiategevustes.2 Jaemüük, kus agente kasutatakse kliendikogemuse parandamiseks, varude haldamiseks ja esiliini protsesside täiustamiseks, moodustab 9%. 2

Oluline asjaolu: osa neist agentidest on IT poolt heaks kiidetud, teised mitte. Osa neist agentidest on turvalised, teised mitte.
Üksteisega kattuvad ringid, mis kujutavad tööstusharude jaotust: tarkvara ja tehnoloogia 16%, tootmine 13%, finantsteenused 11% ning jaekaubandus 9%.

Topeltagentide risk

Agentide kiire juurutamine võib ületada turbe- ja vastavuskontrollide rakendamise kiiruse, suurendades vari-tehisintellekti riski. Pahatahtlikud osapooled võivad ära kasutada agentide juurdepääsu ja õigusi, muutes need tahtmatult „topeltagentideks“. Nagu inimtöötaja, võib ka liiga suure juurdepääsu või valede juhistega agent muutuda haavatavuseks.

Topeltagentide ärakasutamise oht, kui neid ei hallata, neile antakse valed õigused või neid manipuleeritakse ebausaldusväärse sisendiga, ei ole teoreetiline risk. Hiljuti tuvastas Microsofti Defenderi meeskond pettusekampaania, kus mitu osalist kasutasid tehisintellektipõhist ründetehnikat, mida kutsutakse „mälu mürgitamiseks“, et manipuleerida TI-abiliste mäluga püsivalt, suunates märkamatult tulevasi vastuseid ja nõrgendades usaldust süsteemi täpsuse vastu.

Microsofti enda AI Red Teami läbi viidud sõltumatutes turvalistes testikeskkonna uuringutes dokumenteerisid teadlased, kuidas agente eksitati petlike liideseelementide abil, näiteks järgides kahjulikke juhiseid, mis olid peidetud igapäevasesse sisusse. Red Team avastas ka, kuidas agentide arutlusprotsessi saab peenelt ümber suunata manipuleeritud ülesande sõnastuse abil. Need järeldused näitavad, miks on ettevõtete jaoks kriitilise tähtsusega täielik jälgitavus ja kõigi organisatsiooniga seotud agentide haldamine, et järelevalvet saaks rakendada tsentraalselt ja riske saaks hallata terviklikult.
2025. aasta uuring näitab, et 29% töötajatest kasutab tööülesannete täitmiseks heakskiitmata tehisintellekti lahendusi.
Microsofti andmeturbeindeksi andmetel teatas vaid 47% organisatsioonidest eri valdkondades, et nad rakendavad konkreetseid generatiivse tehisintellekti turbekontrolle,3 mis näitab võimalust parandada nähtavust, mis on vajalik tehisintellekti turvaliseks kasutuselevõtuks. Veelgi olulisem on see, et Microsofti tellitud Hypothesis Groupi rahvusvahelise uuringu kohaselt, milles osales üle 1700 andmeturbe spetsialisti, on juba 29% töötajatest kasutanud tööülesannete täitmiseks heakskiiduta tehisintellekti agente.4
Tordidiagramm näitab, et vaid 47% organisatsioonidest on rakendanud turvakontrolle generatiivse tehisintellekti kasutamiseks.

Kuna kasutuselevõtt kiireneb, kui paljud juhid mõistavad sellega kaasnevaid riske? Kui paljud juhid omavad täielikku ülevaadet oma agentide kogumist? Järelvalveta või mittehallatavad TI-agendid võivad ettevõttes riskid mitmekordistada – ohustades turvalisust, ärijätkusuutlikkust ja mainet ning pannes kogu vastutuse infoturbejuhile ja juhtkonnale. See on küberriskide keskne dilemma. Tehisintellekti agendid toovad töökeskkonda uusi võimalusi ja muutuvad organisatsiooni sisemiste protsesside lahutamatuks osaks. Kuid agentide riskantne käitumine võib suurendada sisemisi ohte ja luua uusi tõrkeolukordi organisatsioonidele, kes ei ole valmis neid haldama.

 

Tehisintellekti kahetine olemus on nüüd selge –erakordne innovatsioon koos enneolematute riskidega.

Kuidas saada oma TI-agentidest maksimaalne kasu

Eesrindlikud organisatsioonid kasutavad tehisintellekti laine potentsiaali, et ajakohastada juhtimist, vähendada andmete tarbetut riskile avatust ja rakendada kogu organisatsiooni hõlmavaid kontrollimeetmeid. Sellega kaasneb ka kultuuriline muutus: kuigi ärijuhid vastutavad tehisintellekti strateegia eest, on IT- ja turbemeeskonnad nüüd tõelised partnerid jälgitavuse, hallatavuse ja turvalise katsetamise tagamisel. Nende organisatsioonide jaoks ei ole agentide turvamine piirang, vaid konkurentsieelis, mis põhineb tehisintellekti agentide käsitlemisel inimkasutajatega samaväärselt ja samade täisusaldamatuse põhimõtete rakendamisel.

See algab jälgitavusest, sest te ei saa kaitsta seda, mida te ei näe, ega hallata seda, mida te ei mõista. Jälgitavus tähendab keskse juhtimistasandi olemasolu kõigis organisatsiooni kihtides (IT, turve, arendus ja tehisintellekti meeskonnad), et mõista järgmist.

  • Millised agendid on olemas
     

  • Kes neid omab
     

  • Milliseid süsteeme ja andmeid nad kasutavad
     

  • Kuidas nad käituvad


 

Jälgitavus hõlmab viit põhivaldkonda.

  • Tsentraliseeritud register toimib kõigi agentide ühtse tõeallikana organisatsioonis – sealhulgas heaks kiidetud, kolmanda osapoole ja tekkivate variagentide puhul. See register aitab vältida agentide kontrollimatut levikut, tagab vastutuse ja toetab agentide tuvastamist, võimaldades samal ajal heakskiiduta agentide piiramist või vajaduse korral karantiini panemist.
  • Iga agenti hallatakse samade identiteedipõhiste ja poliitikapõhiste juurdepääsukontrollidega, mida kasutatakse inimkasutajate ja rakenduste puhul. Vähima vajaliku õiguse põhimõttel põhinevad õigused, mida rakendatakse järjepidevalt, tagavad, et agendid pääsevad juurde ainult nende eesmärgi täitmiseks vajalikele andmetele, süsteemidele ja töövoogudele – ei rohkem ega vähem.
  • Reaalajas andmelauad ja telemeetria annavad selge ülevaate, kuidas agendid suhtlevad inimestega, andmete ja süsteemidega. Juhid näevad, kus agendid tegutsevad, mõistavad sõltuvusi ning jälgivad nende käitumist ja mõju, võimaldades kiiremini tuvastada väärkasutust, kõrvalekaldeid või uusi riske.
  • Agendid töötavad Microsofti platvormidel, avatud lähtekoodiga raamistikutes ja kolmandate osapoolte ökosüsteemides ühtse haldusmudeli alusel. See koostalitlusvõime võimaldab agentidel teha koostööd inimeste ja teiste agentidega eri töövoogudes, jäädes samal ajal hallatavaks samade organisatsiooniliste kontrollimeetmete kaudu.
  • Sisseehitatud kaitsemehhanismid kaitsevad agente sisemise väärkasutuse ja väliste ohtude eest. Turvasignaalid, poliitikate jõustamine ja integreeritud tööriistad aitavad organisatsioonidel tuvastada kompromiteeritud või valesti toimivad agendid varakult ning reageerida kiiresti – enne kui probleemid põhjustavad ärilisi, regulatiivseid või mainekahjusid.

Lõhe ületamine: tehisintellekti juhtimise ja turbe kontroll-loend

Tehisintellekti riskide ohjeldamise tee on selge: käsitlege tehisintellekti agente sama rangusega nagu mis tahes töötajat või tarkvarateenuse kontot. Siin on seitse olulist punkti teie kontroll-loendi jaoks.
  • Dokumenteerige iga agendi eesmärk ja andke neile juurdepääs ainult sellele, mida nad vajavad. Vältige laiaulatuslike õiguste andmist.
  • Rakendage andmekaitse reegleid tehisintellekti kanalitele. Säilitage auditeerimislogid ja märgistage tehisintellekti loodud sisu.
  • Pakkuge turvalisi alternatiive, et piirata vari-tehisintellekti kasutust. Blokeerige volitamata rakendused.
  • Värskendage äritegevuse järjepidevuse juhiseid tehisintellekti stsenaariumide jaoks. Viige läbi simulatsiooniharjutusi ja jälgige jälgitavuse mõõdikuid identiteedi-, andme- ja ohutasandil.
  • Looge tehisintellekti juhtimismudel ja rakendage eneseregulatsiooni – dokumenteerige treeningandmed, hinnake kallutatust ja kehtestage inimjärelevalve õigus-, andme- ja turbevaldkonnas –, et vastavus regulatsioonidele oleks sisse ehitatud, mitte hiljem lisatud.
  • Tõstke tehisintellekti risk organisatsiooni tasemele, kehtestades juhtkonna vastutuse, mõõdetavad KPI-d ja juhatuse tasandi nähtavuse koos finants- ja tegevusriskidega.
  • Koolitage töötajaid tehisintellekti turvaliseks kasutamiseks. Julgustage läbipaistvust ja koostööd.

Organisatsioonid, kes saavutavad edu tehisintellekti agentidega, on need, kes seavad esikohale jälgitavuse, halduse ja turbe. Selle saavutamiseks on vaja koostööd kõigi meeskondade vahel ja tehisintellekti agentide jälgitavust organisatsiooni kõigil tasanditel – IT-spetsialistid, turbemeeskonnad, tehisintellekti meeskonnad ja arendajad –, mida saab hallata ja jälgida ühtse keskse juhtimisplatvormi kaudu.

Agent 365 on Microsofti ühtne juhtimistasand tehisintellekti agentide haldamiseks organisatsioonis. See pakub tsentraliseeritud, ettevõtte tasemel süsteemi tehisintellekti agentide registreerimiseks, haldamiseks, turvamiseks, jälgimiseks ja kasutamiseks – olenemata sellest, kas need on loodud Microsofti platvormidel, avatud lähtekoodiga raamistikutes või kolmandate osapoolte süsteemides. Lisateave Microsofti toodete ja teenuste kohta, mis aitavad kaitsta tehisintellekti ja agente, on saadaval siin.
Microsofti turbeteenuse ressursikaardid, mis kuvavad tehisintellekti rakenduste, tehisintellekti halduse ja tehisintellekti vastavuse juhendeid sinisel taustal
Juhendid tehisintellekti turvalisuse tagamiseks

Microsofti juhend tehisintellektipõhise suurettevõtte turvamiseks

Saage juhiseid tugeva tehisintellekti aluse loomiseks, sealhulgas tehisintellekti rakenduste haldamiseks ja turvamiseks ning vastavuse säilitamiseks.
Lugege juhendeid

Veel ressursse

Inimene töötab sülearvutiga ühises tööruumis ja kontrollib samal ajal nutitelefonis teavet

Microsofti andmeturbeindeks

Hankige ülevaade sellest, kuidas generatiivne tehisintellekt muudab andmeturvet.
Lugege aruannet
Esineja seisab laval ning ekraanil kuvatakse tekstid „riskide mõistmine“, „õigete kontrollimeetmete rakendamine“ ning „mõõtmine ja jälgimine“

Võimaluste kiirendamine usaldusväärse tehisintellektiga

Kuulake Microsofti juhtide praktilisi soovitusi, kuidas luua usaldus tehisintellekti kasutuselevõtu igas etapis.
Vaadake veebiseminari
Sinine ja valge ikoon, millel on ümbriku sees paber tekstiga „Uus“.

Hankige CISO Digest

Püsige toimuvaga kursis selles kord kahe kuu jooksul ilmuvas meilsarjas sisalduvate ekspertide ülevaadete, valdkonnatrendide kirjelduste ja turbeuuringutega.
Registreeruge
  1. [1]
    Põhineb Microsofti esmase telemeetria andmetel, mis mõõdavad Microsoft Copilot Studio või Microsofti agendi koostaja abil loodud agente, mida kasutati 2025. aasta novembri viimase 28 päeva jooksul.
  2. [2]
    Valdkondlikud ja piirkondlikud agentide mõõdikud loodi Microsofti esmase telemeetria andmete põhjal, mis mõõdavad Microsoft Copilot Studio või Microsofti agendi koostaja abil loodud agente, mida kasutati 2025. aasta novembri viimase 28 päeva jooksul.
  3. [3]
    2025. aasta juulis viidi läbi rahvusvaheline uuring, milles osales üle 1700 andmeturbe spetsialisti ja mille Microsoft tellis Hypothesis Groupilt
  4. [4]

    Microsofti andmeturbe indeks 2026: andmekaitse ja tehisintellekti innovatsiooni ühendamine, Microsofti turbeteenus, 2026

     

    Metoodika:

     

    Valdkondlikud ja piirkondlikud agentide mõõdikud loodi Microsofti esmase telemeetria andmete põhjal, mis mõõdavad Microsoft Copilot Studio või Microsofti agendi koostaja abil loodud agente, mida kasutati 2025. aasta novembri viimase 28 päeva jooksul.

     

    2026. aasta andmeturbe indeks:

     

    2025. aasta 16. juulist kuni 11. augustini viidi läbi 25-minutiline rahvusvaheline veebiküsitlus, milles osales 1725 andmeturbe juhti.

     

    Küsimused keskendusid andmeturbe olukorrale, andmeturbe intsidentidele, töötajate generatiivse tehisintellekti kasutuse turvamisele ja generatiivse tehisintellekti kasutamisele andmeturbe programmides, et võrrelda tulemusi 2024. aastaga.

     

    Ühendriikides ja Ühendkuningriigis viidi läbi ühe tunni pikkused põhjalikud intervjuud 10 andmeturbe juhiga, et koguda lugusid nende lähenemisviisidest andmeturbele organisatsioonides.

     

    Mõisted.

     

    Aktiivsed agendid on 1) juurutatud tootmiskeskkonda ja 2) neil on viimase 28 päeva jooksul toimunud vähemalt mingi „tegelik tegevus“.

     

    „Tegelik tegevus“ tähendab vähemalt ühte suhtlust kasutajaga (abistavad agendid) VÕI vähemalt ühte autonoomset käivitamist (autonoomsed agendid).

Jälgige Microsofti turbeteenust