Inovace v zájmu bezpečnosti a odolnosti
Vzhledem k tomu, že v odvětví kybernetické bezpečnosti dochází ke změně paradigmatu, nabízí umělá inteligence potenciál pro zvýšení odolnosti a posílení dovedností, rychlosti a znalostí specialistů na zabezpečení.
„Lidská vynalézavost a odbornost budou vždy cennou a nenahraditelnou součástí kybernetické obrany, technologie však mohou tyto jedinečné schopnosti doplnit o dovednosti, rychlost zpracování a schopnost rychlého učení moderní AI.“
–Bret Arsenault, ředitel informační bezpečnosti
Reakce na hrozby pomocí průlomových inovací
Ve stále složitějším kybernetickém ekosystému má umělá inteligence (AI) potenciál změnit bezpečnostní prostředí díky zlepšení dovedností, zvýšení rychlosti a posílení znalostí specialistů na zabezpečení.
Umělá inteligence může také přinášet nové možnosti, jako je využívání rozsáhlých jazykových modelů (LLM) pro generování přehledů a doporučení v přirozeném jazyce ze složitých dat, a nabízet analytikům možnost učit se z nových příležitostí.
Ve zprávě Microsoft Digital Defense Report 2023 se zabýváme některými průlomovými objevy v oblasti umělé inteligence, které transformují kybernetickou bezpečnost, riziky spojenými s umělou inteligencí a modely LLM a tím, jak můžeme zajistit jejich využití k vytvoření bezpečnější a odolnější digitální budoucnosti.
Jak můžeme využít modely LLM k obraně před kybernetickými hrozbami?
-
Analýza a analytika hrozeb
Modely LLM mohou pomáhat specialistům na zabezpečení shromažďovat a analyzovat data a díky tomu odhalovat vzorce a trendy kybernetických hrozeb. Mohou také informace o hrozbách doplnit o kontext pomocí informací z různých zdrojů a provádět technické úkoly, jako je zpětná analýza a analýza malwaru.
-
Reakce na incidenty a následné obnovení
Modely LLM mohou pomáhat specialistům na zabezpečení v podpoře a automatizaci reakcí na bezpečnostní incidenty a obnovy, včetně určení priorit, potlačování a eliminování incidentů, jejich analýzy a následné obnovy. Mohou vytvářet souhrny incidentů a skripty pro automatizaci reakce, koordinovat týmy a také dokumentovat podrobnosti o incidentech a opatřeních a informovat o nich. Modely LLM nám také mohou pomoci vyvodit z incidentů závěry a přinášet návrhy na zlepšení v oblasti prevence a zmírňování následků.
-
Monitorování zabezpečení a detekce
Modely LLM mohou monitorovat a zjišťovat bezpečnostní události a incidenty v sítích, systémech, aplikacích a datech. Mohou analyzovat data, generovat prioritizovaná upozornění a poskytovat kontextové informace pro potřeby prošetřování a reakce. Modely LLM mohou také analyzovat stav zabezpečení multicloudových prostředí, vytvářet komplexní mapy prostředků, odhadovat potenciální dopady a nabízet návrhy na zmírnění rizik. Mohou být užitečné pro odhalování phishingu tím, že analyzují obsah e-mailů a identifikují textové vzorce, anomálie a podezřelé jazykové výrazy signalizující pokusy o phishing.
-
Širší testování a ověření
Modely LLM mohou automatizovat a vylepšit testování a ověřování zabezpečení, včetně penetračního testování, kontroly ohrožení zabezpečení, analýzy kódu a auditování konfigurace. Generují a provádějí testovací případy, vyhodnocují a hlásí výsledky a nabízejí návrhy nápravy. Modely LLM můžou vytvářet vlastní aplikace a nástroje pro konkrétní scénáře, automatizovat opakující se úlohy a zpracovávat občasné nebo ad hoc úlohy, které vyžadují ruční zásah.
-
Zvyšování povědomí o zabezpečení a vzdělávání
Modely LLM můžou pomáhat specialistům na zabezpečení vytvářet poutavý a přizpůsobený obsah a scénáře pro zvyšování povědomí o zabezpečení a vzdělávání. Mohou posoudit úroveň znalostí a dovedností cílové skupiny v oblasti zabezpečení, poskytnout zpětnou vazbu a pokyny a vytvářet realistická a adaptivní cvičení a simulace zaměřené na kybernetickou bezpečnost pro účely školení a testování.
-
Zabezpečení dat, zásady správného řízení a dodržování předpisů
Modely LLM mohou pomáhat při automatizaci aktivit v oblasti zásad správného řízení z hlediska zabezpečení, řízení rizik a dodržování předpisů, včetně vývoje a vynucování zásad, vyhodnocování a řízení rizik, auditování a zajištění a dodržování předpisů a také vytváření sestav. Mohou sladit aktivity s byznysovými cíli a poskytovat metriky zabezpečení a řídicí panely pro měření výkonu. Mohou také identifikovat nedostatky a problémy a nabídnout doporučení pro zlepšení stavu zabezpečení organizace, určení priorit ohrožení zabezpečení a identifikaci návrhů nápravy.
Spolupráce na utváření odpovědné umělé inteligence
Odpovědná AI už v návrhu
Vzhledem k tomu, že technologie umělé inteligence slibuje proměnu společnosti, musíme zajistit, aby odpovědnost byla v budoucnu základním principem umělé inteligence už v návrhu. Odpovědné postupy v oblasti umělé inteligence mají zásadní význam pro zachování důvěry uživatelů, ochranu soukromí a vytváření dlouhodobých přínosů pro společnost.
Dodržování vlastních etických standardů při využívání AI
Abychom si udrželi náskok před nově vznikajícími bezpečnostními hrozbami, musíme jít příkladem a investovat do výzkumu a vývoje. Společnost Microsoft se zavázala zajistit, aby všechny její produkty a služby umělé inteligence byly vyvíjeny a používány způsobem, který dodržuje naše principy umělé inteligence.
10 let aktivních politik v oblasti AI
Společnost Microsoft se zavázala zajistit, aby všechny její produkty a služby umělé inteligence byly vyvíjeny a používány způsobem, který dodržuje naše principy umělé inteligence. Zároveň spolupracujeme s partnery z oboru na vývoji standardů a technologií, které umožní transparentní a ověřitelné informace o původu a pravosti digitálního obsahu, aby se zvýšila důvěryhodnost online.
Po celém světě roste zájem o regulační pokyny týkající se odpovědného vývoje a používání umělé inteligence a mnoho zemí připravuje dokumentaci nabízející pokyny pro řízení vznikajících rizik spojených s technologiemi umělé inteligence. Tento trend trvá už víc než deset let a stále nabírá na síle.
Prozkoumejte další kapitoly Microsoft Digital Defense Report.
Úvod
Síla partnerství, důležitá pro posílení obrany a pohnání kyberzločinců k odpovědnosti, je klíčem k překonání nepříznivého stavu.
Stav v oblasti kybernetických trestných činů
Zatímco kyberzločinci pokračují ve svých aktivitách, veřejný a soukromý sektor spojují síly, aby narušily jejich technologie a podpořily oběti kyberkriminality.
Hrozby ze strany státních aktérů
Kybernetické operace na státní úrovni spojují vlády a hráče z technologického průmyslu s cílem vybudovat odolnost proti hrozbám pro online bezpečnost.
Kritické výzvy kyberbezpečnosti
Pohyb v neustále se měnícím prostředí kybernetické bezpečnosti si žádá vybudování komplexní obrany pro odolné organizace, dodavatelské řetězce a infrastrukturu.
Inovace v zájmu bezpečnosti a odolnosti
Moderní umělá inteligence činí obrovský skok vpřed a bude hrát zásadní roli při obraně a zajišťování odolnosti podniků a společnosti.
Kolektivní obrana
S ohledem na neustálý vývoj kybernetických hrozeb platí, že spolupráce rozšiřuje stav vědomostí a zmírňuje dopady napříč globálním bezpečnostním ekosystémem.
Další informace o zabezpečení
Náš závazek k získání důvěry
Microsoft se zavázal k odpovědnému používání umělé inteligence, ochraně soukromí a rozvoji digitální bezpečnosti a kybernetické ochrany.
Kybernetické signály
Čtvrtletní zpravodajství o kybernetických hrozbách založené na nejnovějších datech a výzkumech Microsoftu. Kybernetické signály poskytují analýzu trendů a pokyny, které pomáhají posílit první linii obrany.
Sestavy o národním stavu
Půlroční zprávy o konkrétních národních aktérech, které slouží k varování našich zákazníků a globální komunity před hrozbami, jež představují vlivové operace a kybernetické aktivity, a identifikují konkrétní odvětví a regiony se zvýšeným rizikem.
Microsoft Digital Defense Report archiv
Prozkoumejte předchozí Microsoft Digital Defense Report a zjistěte, jak se za několik krátkých let změnilo prostředí hrozeb a bezpečnost online.
Sledujte zabezpečení od Microsoftu