This is the Trace Id: 66d3462179d6876fb44454d7dd485f66
Lompati ke konten utama Microsoft Defender Microsoft Entra Microsoft Intune Project Perception Microsoft Purview Microsoft Sentinel SIEM Tampilkan semua produk Keamanan cyber yang didukung AI Keamanan cloud Tata kelola dan keamanan data Akses jaringan dan identitas Keamanan untuk AI Bisnis kecil & menengah SecOps Terintegrasi Zero Trust Harga Layanan Mitra Mengapa memilih Microsoft Security Kesadaran keamanan cyber Kisah pelanggan Dasar-Dasar Keamanan Uji coba produk Pengakuan industri Microsoft Security Insider Microsoft Digital Defense Report Security Response Center Blog Microsoft Security Acara Microsoft Security Komunitas Teknologi Microsoft Dokumentasi Pustaka Isi Teknis Pelatihan & sertifikasi Program Kepatuhan untuk Microsoft Cloud Pusat Kepercayaan Microsoft Service Trust Portal Microsoft Secure Future Initiative Hub Solusi Bisnis Hubungi Bagian Penjualan Mulai percobaan gratis Microsoft Security Azure Dynamics 365 Microsoft 365 Microsoft Teams Windows 365 Microsoft AI Azure Space Realita campuran Microsoft HoloLens Microsoft Viva Komputasi kuantum Pendidikan Otomotif Layanan keuangan Pemerintah Layanan Kesehatan Produksi Eceran Cari mitra Jadilah mitra Jaringan Mitra Microsoft Marketplace Perusahaan perangkat lunak Blog Microsoft Advertising Pusat Pengembang Dokumentasi Acara Pemberian Lisensi Microsoft Learn Microsoft Research Lihat Peta Situs

Apa itu AI agenik dalam keamanan cyber?

AI agenik dalam keamanan cyber adalah penggunaan agen otonom untuk mendeteksi, menyelidiki, dan merespons ancaman dengan intervensi manusia yang minimal.
Laporan Pertahanan Digital Microsoft 2024: Fondasi dan batasan baru keamanan cyber

Agen keamanan cyber adalah kemampuan yang didukung AI yang dirancang untuk membantu tim keamanan secara otonom. AI agenik dalam keamanan cyber secara khusus merujuk pada cara agen ini digunakan untuk mendeteksi, menyelidiki, dan merespons ancaman cyber.

Seiring meningkatnya penggunaan otomatisasi oleh pelaku ancaman untuk mempercepat serangan cyber mereka, tim keamanan menerapkan agen dalam berbagai skenario untuk membantu merespons lebih cepat dan mengantisipasi risiko yang muncul.

Poin penting

  • AI agenik dalam keamanan cyber secara otonom mengejar tujuan dengan menggunakan penalaran, perencanaan, dan pembelajaran berkelanjutan untuk menjalankan tugas multi-tahap.
  • Tim keamanan mengadopsi AI agenik untuk membantu mengatasi tantangan keamanan cyber yang terus meningkat, termasuk volume peringatan yang berlebihan, serangan berbantuan AI yang lebih cepat, kelelahan analis, dan lingkungan hibrid yang kompleks.
  • AI agenik dapat meningkatkan operasi keamanan dengan mempercepat deteksi dan respons terhadap ancaman, mengurangi pekerjaan analis yang berulang, meningkatkan prioritas, dan menyediakan cakupan keamanan yang lebih konsisten dan dapat diskalakan.
  • Agen AI dirancang untuk membantu alur kerja khusus di area penting seperti pengelabuan, keamanan data, dan manajemen identitas.
  • Organisasi menggunakan pembatas, alur kerja persetujuan, kontrol akses berbasis peran, dan audit untuk membantu memastikan AI agenik beroperasi dengan aman, transparan, dan dalam batas yang telah ditentukan.
  • Sebagian besar organisasi mengadopsi AI agenik secara bertahap, dimulai dari alur kerja yang membutuhkan kapasitas tim tambahan. Tim beralih dari otomatisasi skrip dan analisis berbantuan AI ke alur kerja yang lebih otonom seiring meningkatnya tata kelola dan kematangan operasional.

Apa yang membuat AI menjadi agenik?

AI agenik berbeda dari model pembelajaran mesin tradisional, AI generatif, dan alat otomatisasi karena secara independen mengejar tujuan dan menyesuaikan diri dengan kondisi yang berubah-ubah. Ini berbeda dari model pembelajaran mesin tradisional, yang berfokus menganalisis data dan membuat prediksi, tetapi tidak bertindak berdasarkan wawasan tersebut. AI generatif membuat konten sebagai respons atas input percakapan, tetapi orang perlu terus memberi perintah untuk menyempurnakan hasilnya. Dan alat otomatisasi, seperti playbook respons otomatis pengaturan keamanan (SOAR), mengikuti alur kerja dan aturan yang telah ditentukan sebelumnya. Sebaliknya, AI agenik menjalankan tugas multi-tahap dengan intervensi manusia yang terbatas.

Beberapa fitur inti yang membuat AI menjadi agenik:

  • Otonomi. Sistem AI agenik dapat beroperasi dengan berbagai tingkat keterlibatan manusia, mulai dari pengawasan manusia berkelanjutan hingga pelaksanaan yang lebih otonom dalam batas yang ditentukan.
  • Berorientasi pada tujuan. AI ini secara aktif mengejar hasil yang ditentukan, seperti mendeteksi ancaman, memitigasi kerentanan, atau meningkatkan postur keamanan.
  • Penalaran dan perencanaan. AI ini dapat mengoordinasikan proses multi-tahap, menalar urutan tindakan, dan membuat rencana untuk mencapai tujuannya.
  • Memori. Sistem agenik menyimpan konteks dari interaksi, kejadian, dan keputusan sebelumnya sehingga dapat membuat pilihan yang lebih tepat seiring waktu.
  • Pembelajaran dan adaptasi berkelanjutan. AI agenik belajar dari data baru, menyesuaikan strategi berdasarkan konteks, dan meningkatkan efektivitasnya seiring waktu.

Pengawasan manusia dalam sistem AI agenik

Sistem AI agenik sering dirancang dengan pengawasan manusia bawaan untuk menyeimbangkan otonomi dan kontrol.

Dalam pendekatan Microsoft terhadap AI agenik untuk keamanan cyber, AI ini dirancang sebagai model kolaboratif ketika operator manusia dapat memantau dan memandu perilaku sistem.

Contoh umumnya meliputi:

  • Penalaran yang transparan. Sistem Microsoft menyediakan konteks pendukung dan alasan di balik rekomendasi untuk membantu analis memahami output sistem dan jalur pengambilan keputusan.
  • Persetujuan dan penyesuaian. Tim dapat meninjau, menyetujui, menolak, atau menyesuaikan tindakan sistem, serta menggabungkan umpan balik untuk terus meningkatkan hasil.
  • Kontrol yang dapat diaudit. Aktivitas diatur oleh kontrol keamanan perusahaan seperti akses berbasis peran, log audit, dan perlindungan alur kerja untuk mendukung akuntabilitas dan persyaratan kepatuhan.

Cara kerja AI agenik

AI agenik dapat merespons kondisi yang berubah-ubah secara dinamis dan menyesuaikan perilakunya berdasarkan konteks karena proses yang disebut perulangan agenik—serangkaian langkah yang diulangi agen hingga tujuan tercapai.

Persepsi → Penalaran → Perencanaan → Tindakan → Pembelajaran

  • Persepsi. Sistem mengumpulkan informasi dari lingkungannya, termasuk log, peringatan, aktivitas pengguna, inteligensi ancaman, dan data dari alat serta sistem yang terhubung.
  • Penalaran. Sistem menganalisis informasi, mengidentifikasi pola, mengevaluasi risiko, serta menentukan makna data dalam konteks.
  • Perencanaan. Berdasarkan tujuannya, sistem mengembangkan urutan tindakan untuk mencapai hasil yang diinginkan.
  • Tindakan. Agen menjalankan tugas, seperti mengisolasi perangkat, membuka tiket, mengeskalasi peringatan, atau mengumpulkan bukti tambahan, dengan berinteraksi dengan alat, sistem, atau alur kerja.
  • Pembelajaran. Sistem mengevaluasi hasil tindakannya dan menggunakan umpan balik, data baru, serta hasil sebelumnya untuk meningkatkan keputusan dan respons di masa mendatang.

Agar AI agenik dapat bekerja efektif, tim juga perlu memutuskan apakah ingin menggunakan sistem satu agen atau sistem multi-agen. Sistem satu agen mengandalkan satu agen untuk mengelola tugas dan keputusan, yang berfungsi baik saat alur kerja relatif terbatas dan keputusan bersifat terpusat. Jika alur kerja kompleks atau memerlukan jenis keahlian yang berbeda, organisasi sering menyiapkan sistem multi-agen yang menggunakan beberapa agen AI khusus untuk keamanan cyber yang bekerja sama menuju tujuan bersama.

Bahkan dengan kemampuan otonom, pengawasan dari manusia tetap penting. Banyak organisasi menggunakan titik pemeriksaan human-in-the-loop dan gerbang persetujuan untuk tindakan sensitif atau berisiko tinggi guna membantu menjaga tata kelola, akuntabilitas, dan kontrol operasional.

AI Agenik vs. AI generatif vs. SOAR vs. pembelajaran mesin tradisional

Perbedaan antara otomatisasi tradisional, AI generatif, dan AI agenik menjadi lebih jelas jika dibandingkan dalam berbagai dimensi inti.

Dimensi
ML tradisional / SOAR
AI Generatif
AI Agenik
Otonomi
Berbasis aturan, tertulis
Merespons perintah
Bertindak secara otonom untuk mencapai tujuan yang ditentukan
Pengambilan keputusan
Logika yang telah ditentukan sebelumnya
Menghasilkan respons dan konten
Merencanakan, menalar, dan mengambil tindakan
PembelajaranModel statis, pelatihan ulang berkala
Hanya dalam konteks, tanpa pembelajaran persisten
Adaptasi berkelanjutan yang peka terhadap konteks
Keterlibatan manusia
Orang menjalankan alur kerja
Orang memberikan perintah dan meninjau output
Orang menetapkan tujuan dan batasan
Penggunaan SOC umum
Deteksi tanda tangan dan playbook SOAR
T&J dan ringkasan oleh analis
Triase menyeluruh, perburuan, dan respons

Mengapa AI agenik penting untuk keamanan cyber

Sayangnya, bisnis dan pemerintah bukan satu-satunya yang mengadopsi AI dengan cepat. Pelaku ancaman menggunakan sistem agenik untuk meningkatkan kecepatan dan skala serangan cyber mereka, menciptakan atau memperparah beberapa tantangan keamanan cyber, termasuk:

  • Tantangan skala. Tim keamanan sering menangani volume peringatan yang sangat besar, kompleksitas data yang terus meningkat, dan kekurangan analis yang berkelanjutan.
  • Tantangan kecepatan. Penyerang cyber semakin mengotomatiskan operasi mereka, sementara banyak pembela masih bergantung pada proses triase dan respons insiden manual.
  • Tantangan keandalan dan akurasi. Paparan berkepanjangan terhadap shift malam dan volume tugas berulang yang tinggi dapat menyebabkan analis kelelahan dan burnout, sehingga meningkatkan risiko inkonsistensi dan kesalahan manusia.
  • Tantangan ketahanan. Organisasi modern beroperasi di lingkungan hibrid yang meliputi platform cloud, titik akhir, identitas, aplikasi, dan layanan pihak ketiga. Permukaan serangan yang terus meluas ini meningkatkan risiko operasional dan menciptakan lebih banyak peluang bagi penyerang cyber.

AI agenik dalam keamanan cyber membantu tim keamanan bekerja lebih efektif di lingkungan yang semakin terlalu kompleks, cepat berubah, dan saling terhubung untuk operasi keamanan (SecOps) yang sepenuhnya manual. Ini berbeda dari keamanan AI agenik yang lebih luas, yang berfokus pada perlindungan sistem AI itu sendiri.

Manfaat AI agenik dalam keamanan cyber

Alih-alih menggantikan tim keamanan, AI agenik bertindak sebagai pengganda kekuatan di seluruh operasi keamanan cyber, yang memberikan manfaat seperti:

  • Waktu rata-rata deteksi dan respons (MTTD/MTTR) yang lebih cepat. AI agenik dapat menyelidiki peringatan, mengorelasikan sinyal, dan mengoordinasikan tindakan respons dengan cepat, membantu tim mengurangi waktu deteksi dan respons.
  • Kelelahan analis berkurang dan lebih banyak waktu untuk pekerjaan bernilai tinggi. Dengan menangani tugas berulang yang memakan banyak waktu, AI agenik membantu mengurangi kelelahan karena banyaknya peringatan dan memungkinkan analis fokus pada penyelidikan dan pengambilan keputusan yang lebih strategis.
  • Triase dan respons yang konsisten dan dapat diulang. AI agenik menerapkan alur kerja dan proses secara konsisten di seluruh insiden, meningkatkan keandalan operasional dengan mengurangi variasi yang disebabkan oleh operasi manual.
  • Cakupan sepanjang waktu dan skala elastis. Tidak seperti tim manusia, AI agenik dapat beroperasi terus-menerus dan diskalakan untuk menangani volume peringatan, kejadian, dan data yang besar tanpa memerlukan staf tambahan.
  • Rasio sinyal terhadap kebisingan dan prioritas yang lebih baik. AI agenik dapat menganalisis data kontekstual dalam jumlah besar untuk membantu mengidentifikasi ancaman yang paling penting, mengurangi peringatan yang tidak perlu, dan meningkatkan penentuan prioritas.
  • Ketahanan yang lebih kuat dan manajemen risiko proaktif. AI agenik dapat memantau lingkungan secara berkelanjutan, mengidentifikasi potensi kelemahan, serta mendukung langkah keamanan proaktif yang membantu organisasi mengurangi risiko dan meningkatkan ketahanan operasional seiring waktu.

Kasus penggunaan inti AI agenik dalam operasi keamanan

Beberapa kasus penggunaan menunjukkan bagaimana orang-orang dan agen dapat bekerja sama untuk memperkuat keamanan.

Triase dan penentuan prioritas peringatan

Tim keamanan sering menerima peringatan lebih banyak daripada yang dapat mereka selidiki secara manual, sehingga penentuan prioritas sangat penting untuk respons yang efektif.

Peran agen:

  • Meningkatkan peringatan dengan inteligensi ancaman, konteks aset, dan data perilaku pengguna.
  • Memprioritaskan insiden berdasarkan risiko dan penilaian keyakinan.
  • Merekomendasikan langkah berikutnya untuk penyelidikan atau remediasi.

Peran analis:

  • Meninjau insiden dengan prioritas tinggi.
  • Memvalidasi temuan dan keputusan eskalasi.
  • Menangani penyelidikan yang kompleks atau sensitif.

Inteligensi ancaman

Tim keamanan mengandalkan data ancaman dalam volume besar, sehingga sulit untuk mengekstrak wawasan yang relevan dan dapat ditindaklanjuti dengan cepat.

Peran agen:

  • Mengumpulkan dan meringkas inteligensi ancaman dari berbagai sumber.
  • Memberikan kesadaran situasional real time dan pelaporan yang cepat.
  • Mengorelasikan aktivitas ancaman di seluruh lingkungan.

Peran analis:

  • Menafsirkan risiko strategis dan tren ancaman.
  • Memvalidasi relevansi kecerdasan dan dampak.
  • Memandu prioritas dan perencanaan respons.

Perburuan ancaman cyber

Mengidentifikasi ancaman tersembunyi atau ancaman yang sedang berkembang memerlukan analisis berkelanjutan di seluruh himpunan data yang besar dan kompleks.

Peran agen:

  • Menghasilkan hipotesis perburuan ancaman cyber dan kueri sumber data.
  • Melakukan iterasi pada himpunan data besar untuk mengidentifikasi aktivitas mencurigakan.
  • Melakukan perburuan latar belakang secara berkelanjutan untuk menemukan ancaman yang sedang berkembang.

Peran analis:

  • Memvalidasi temuan dan menentukan dampak bisnis.
  • Menyelidiki aktivitas serangan cyber tingkat lanjut atau tertarget.
  • Meningkatkan strategi dan prioritas perburuan ancaman cyber.

Respons insiden dan remediasi titik akhir

Merespons insiden keamanan memerlukan koordinasi cepat di seluruh aktivitas deteksi, penyelidikan, dan penahanan.

Peran agen:

  • Mengotomatiskan pengumpulan bukti dan dokumentasi insiden.
  • Membuat draf linimasa dan meringkas aktivitas serangan cyber.
  • Menuntaskan tindakan penahanan dengan persetujuan dari analis.
  • Membantu melindungi titik akhir dan mengotomatiskan alur kerja remediasi kerentanan.

Peran analis:

  • Menyetujui tindakan respons berisiko tinggi.
  • Mengawasi upaya remediasi dan pemulihan.
  • Mengoordinasikan komunikasi dan tinjauan pasca insiden.

Manajemen kerentanan dan paparan

Organisasi harus mengidentifikasi dan memprioritaskan kelemahan keamanan sebelum dieksploitasi oleh pelaku ancaman.

Peran agen:

  • Memprioritaskan kerentanan berdasarkan tingkat risiko dan nilai aset yang berisiko.
  • Mengidentifikasi paparan di lingkungan cloud, titik akhir, dan identitas.
  • Merekomendasikan jalur remediasi dan tindakan mitigasi.

Peran analis:

  • Menentukan prioritas remediasi berdasarkan risiko bisnis.
  • Memvalidasi tindakan yang direkomendasikan.
  • Mengoordinasikan upaya penerapan patch dan pengurangan risiko.

Keamanan identitas dan akses

Memantau aktivitas identitas sangat penting untuk mendeteksi akses tidak sah dan mencegah penyalahgunaan hak istimewa.

Peran agen:

  • Mendeteksi pola proses masuk dan akses yang tidak biasa.
  • Mengidentifikasi izin berisiko dan risiko eskalasi hak istimewa.
  • Memantau ancaman terkait identitas secara berkelanjutan.

Peran administrator identitas dan akses:

  • Meninjau kejadian akses berisiko tinggi.
  • Menyetujui perubahan kebijakan atau izin.
  • Menyelidiki potensi aktivitas dari dalam atau kompromi akun.

Rekayasa keamanan dan pengembangan deteksi

Tim keamanan harus terus membangun dan meningkatkan logika deteksi guna mengikuti perkembangan ancaman.

Peran agen:

  • Menulis dan menguji logika deteksi.
  • Memvalidasi cakupan deteksi dan mengidentifikasi celah.
  • Menyarankan peningkatan penyesuaian untuk mengurangi positif palsu.

Peran analis:

  • Meninjau dan menyetujui pembaruan deteksi.
  • Menyelaraskan deteksi dengan prioritas organisasi.
  • Mengawasi arsitektur dan strategi keamanan jangka panjang.

Kepatuhan dan keamanan data

Melindungi data sensitif memerlukan pemantauan, klasifikasi, dan penerapan kebijakan keamanan secara berkelanjutan.

Peran agen:

  • Menyelidiki dan memprioritaskan pencegahan kehilangan data dan risiko dari dalam.
  • Mengotomatiskan penemuan dan analisis risiko data sensitif di seluruh lingkungan.
  • Mengidentifikasi pelanggaran kebijakan dan celah kepatuhan.

Peran admin keamanan data:

  • Meninjau kejadian paparan data berisiko tinggi.
  • Menentukan persyaratan kepatuhan dan tata kelola.
  • Mengawasi remediasi dan keputusan penerapan kebijakan.

Cara AI agenik terintegrasi ke dalam alur kerja keamanan cyber

AI agenik dalam keamanan cyber memberikan nilai terbesar saat membantu tim menganalisis data, meningkatkan peringatan, dan merespons kerentanan serta ancaman di seluruh lingkungan. Untuk melakukannya, organisasi menggunakan API untuk menghubungkan agen keamanan dengan alat yang sudah digunakan, seperti SOAR, alat deteksi dan respons yang diperluas (XDR), manajemen postur keamanan cloud (CSPM), manajemen identitas dan akses (IAM), security information and event management (SIEM), deteksi dan respons titik akhir (EDR), dan solusi tiket. Ini memungkinkan sistem AI agenik mengambil informasi, mengoordinasikan alur kerja, memicu tindakan, dan memperbarui sistem secara real time.

Otomatisasi menghemat banyak waktu tim, tetapi tetap penting untuk menjaga kontrol dan akuntabilitas agar tidak terjadi tindakan yang tidak diinginkan. Tim keamanan biasanya meminta analis meninjau keputusan berisiko tinggi, sambil memberikan otonomi yang lebih besar untuk tindakan berisiko lebih rendah. Dalam kedua kasus tersebut, penting untuk menetapkan tata kelola data dan kontrol akses agar AI hanya berinteraksi dengan sistem dan data yang telah disetujui.

Mengukur keberhasilan—metrik dan ROI

Tim keamanan yang paling sukses menggunakan AI agenik menerapkan alat pengukuran untuk mengevaluasi sejauh mana tujuan telah tercapai. Ini memberi informasi yang diperlukan untuk menyesuaikan dan meningkatkan implementasi mereka.

Metrik keberhasilan utama meliputi:

Metrik operasional

Data yang membantu menentukan efektivitas operasi keamanan mencakup:

  • MTTD dan MTTR.
  • Jumlah peringatan yang ditriase atau ditutup secara otomatis.
  • Pengurangan tingkat positif palsu.
  • Waktu yang dibutuhkan untuk menyelidiki dan mengatasi insiden.

Metrik tenaga kerja

Metrik ini memberikan wawasan kepada pimpinan tentang bagaimana AI agenik mengubah cara tim keamanan menggunakan waktu mereka:

  • Jam analis yang didapatkan kembali dari penyelidikan dan triase manual.
  • Tingkat eskalasi untuk peringatan yang memerlukan intervensi analis.
  • Waktu onboarding analis baru yang menggunakan alur kerja berbantuan AI.
  • Pengurangan tugas berulang atau tugas bernilai rendah.

Metrik bisnis

Pimpinan juga dapat melihat bagaimana peningkatan keamanan berdampak pada seluruh organisasi dengan metrik seperti:

  • Biaya per insiden keamanan.
  • Cakupan di seluruh lingkungan, identitas, titik akhir, dan sumber daya cloud
  • Postur kepatuhan dan kesiapan audit secara keseluruhan.
  • Pengurangan paparan risiko operasional dari waktu ke waktu.

Pertimbangan risiko, batasan, dan keamanan

Karena sistem agenik beroperasi dengan tingkat otonomi yang berbeda-beda, tata kelola, transparansi, dan kontrol sangat penting bagi penyebaran yang aman.

Risiko operasional dan teknis

  • Agen bayangan dan otomatisasi tidak terkelola. Seiring meningkatnya skala sistem agenik, organisasi dapat tanpa sengaja membuat agen yang terkelola atau duplikat. Tanpa pengawasan yang tepat, “agen bayangan” ini dapat menimbulkan perilaku yang tidak konsisten atau tindakan yang tidak sah.
  • Halusinasi dan positif palsu. Seperti sistem AI lainnya, AI agenik dapat menghasilkan kesimpulan yang salah atau salah menafsirkan data, berpotensi memicu peringatan yang tidak perlu atau tindakan yang salah jika tidak divalidasi.
  • Otomatisasi berlebihan dan hilangnya pengawasan. Ketergantungan berlebihan pada otomatisasi dapat mengurangi visibilitas ke dalam proses pengambilan keputusan, sehingga meningkatkan risiko hilangnya konteks atau tindakan yang tidak tepat.
  • Privasi data dan kontrol akses. Sistem AI agenik memerlukan akses ke data keamanan sensitif, sehingga kontrol ketat atas izin, batasan data, dan akses hak istimewa minimum menjadi sangat penting.
  • Penyimpangan model dan manipulasi adversarial. Seiring waktu, performa model dapat menurun saat lingkungan berubah. Selain itu, penyerang cyber mungkin mencoba memanipulasi input atau metrik untuk memengaruhi perilaku agen.

Pertimbangan regulasi dan kepatuhan

  • NIST AI Risk Management Framework (AI RMF) menyediakan panduan untuk mengelola risiko terkait AI di seluruh siklus hidup, termasuk tata kelola, pemetaan, pengukuran, dan manajemen.
  • ISO/IEC 42001 menetapkan persyaratan untuk sistem manajemen AI, dengan fokus pada pengembangan dan penggunaan sistem AI yang bertanggung jawab.
  • EU AI Act memperkenalkan klasifikasi berbasis risiko dan persyaratan kepatuhan untuk sistem AI yang beroperasi di dalam atau berdampak pada Uni Eropa.
  • Regulasi khusus sektor adalah persyaratan unik untuk industri tertentu, seperti Undang-Undang Portabilitas dan Akuntabilitas Asuransi Kesehatan (HIPAA) untuk perlindungan data layanan kesehatan, Standar Keamanan Data Industri Kartu Pembayaran (PCI DSS) untuk keamanan pembayaran, dan Sarbanes-Oxley Act (SOX) untuk kontrol pelaporan keuangan.

Merancang strategi AI agenik yang bertanggung jawab

Saat tim keamanan menyebarkan dan menskalakan AI agenik untuk keamanan cyber di seluruh organisasi mereka, strategi yang matang membantu meningkatkan hasil keamanan sekaligus mempertahankan transparansi, akuntabilitas, dan kepercayaan di seluruh tim.

Prinsip penyebaran yang aman

Organisasi biasanya memperkenalkan AI agenik dalam tahap yang terkendali, dimulai dengan kasus penggunaan yang bersifat membantu dan berisiko rendah sebelum diperluas ke tindakan yang berdampak lebih besar. Penting juga untuk memprioritaskan transparansi dalam cara agen keamanan membuat keputusan.

Alur kerja persetujuan dan pembatas

Pembatas yang terdefinisi dengan baik membantu membatasi perilaku agen pada batas yang aman dan sesuai harapan. Untuk mengurangi risiko perilaku tidak terduga, tim menentukan tindakan mana yang dapat dilakukan secara mandiri oleh agen AI untuk keamanan cyber, menetapkan alur kerja persetujuan untuk operasi berdampak tinggi atau sensitif, serta menentukan ambang batas kapan agen keamanan perlu mengeskalasi ke analis.

Akses berbasis peran untuk agen AI

Kontrol akses berbasis peran (RBAC) membantu mengurangi risiko aktivitas yang tidak diinginkan dengan membatasi akses agen ke sistem, data, dan tindakan yang diperlukan untuk fungsi spesifiknya. Karena itu, tim identitas menerapkan prinsip hak istimewa minimum yang sama pada agen seperti pada manusia.

Memantau dan mengaudit tindakan agen

Untuk menjaga visibilitas terhadap perilaku agen, tim keamanan mencatat dan mengaudit semua tindakan agen, termasuk keputusan, penggunaan alat, dan hasil. Hal ini membantu tim menyelidiki insiden, memenuhi persyaratan kepatuhan, dan mendeteksi masalah implementasi yang perlu disesuaikan.

Membangun kepercayaan dengan analis

Analis lebih mungkin mengadopsi AI agenik jika merasa mendapat informasi yang cukup dan tetap memegang kendali. Organisasi dapat membangun kepercayaan dengan memastikan rekomendasi agen jelas dan mudah dipahami. Mereka juga lebih berhasil saat menggunakan AI dalam rangka menambah, bukan menggantikan, pengambilan keputusan analis.

Penyelarasan lintas fungsi

Pusat operasi keamanan (SOC), IT, dan tim kepatuhan semuanya berperan dalam menyebarkan AI agenik secara aman, efektif, dan selaras dengan toleransi risiko organisasi. Tim lintas disiplin membantu organisasi menentukan kasus penggunaan operasional, mengelola integrasi dan infrastruktur, serta memenuhi persyaratan regulasi.

Dari otomatisasi hingga keamanan agenik

Membangun alur kerja yang sepenuhnya agenik yang berfungsi di seluruh domain keamanan merupakan proses bertahap. Seiring meningkatnya kematangan operasional organisasi, diperlukan tata kelola dan pengawasan yang lebih kuat.

Tahap 1: Otomatisasi skrip

Pada tahap paling awal, organisasi menggunakan skrip dan alur kerja yang telah ditentukan untuk menangani tugas keamanan yang berulang.

Seperti inilah keberhasilan:

  • Penyelesaian tugas rutin secara konsisten, seperti peningkatan peringatan atau pembuatan tiket.
  • Pengurangan upaya manual dalam alur kerja dengan kompleksitas rendah.
  • Ketergantungan pada playbook dan aturan statis.

Indikator kesiapan:

  • Integrasi SIEM, SOAR, dan sistem tiket yang stabil.
  • Proses keamanan yang didefinisikan dengan jelas dan dapat diulang.
  • Tugas analis berulang dengan volume tinggi.

Tahap 2: Analisis yang dibantu AI

Pada tahap ini, AI mendukung analis dengan meningkatkan visibilitas, ringkasan, dan pengambilan keputusan, tetapi tidak mengambil tindakan langsung.

Seperti inilah keberhasilan:

  • Penyelidikan lebih cepat melalui ringkasan dan wawasan yang dihasilkan AI.
  • Peningkatan pemahaman peringatan dan pengayaan konteks.
  • Analis tetap sepenuhnya bertanggung jawab atas keputusan dan tindakan.

Indikator kesiapan:

  • Alur data yang matang dan metrik terpusat.
  • Proses operasi keamanan yang sudah mapan.
  • Kebutuhan akan triase dan dukungan penyelidikan yang lebih cepat.

Tahap 3: Agen semi-otonom

Di sini, AI agenik mulai mengambil tindakan terbatas dalam pembatas yang sudah ditetapkan, sementara manusia tetap memegang otoritas persetujuan untuk operasi berisiko lebih tinggi.

Seperti inilah keberhasilan:

  • Triase otomatis, pengayaan, dan langkah remediasi yang direkomendasikan.
  • Berkurangnya beban kerja analis untuk tugas penyelidikan berulang.
  • Persetujuan human-in-the-loop untuk tindakan penahanan dan remediasi.

Indikator kesiapan:

  • Kontrol identitas dan akses yang kuat untuk sistem otomatisasi.
  • Alur kerja eskalasi dan persetujuan yang didefinisikan dengan baik.
  • Keyakinan pada kualitas data dan integrasi sistem.

Tahap 4: Alur kerja yang agenik sepenuhnya

Pada tahap paling matang, AI agenik beroperasi di berbagai domain, mengoordinasikan tindakan dengan intervensi analis yang minimal dalam batas yang telah ditetapkan. Ini memungkinkan orkestrasi keamanan ujung-ke-ujung di seluruh organisasi.

Seperti inilah keberhasilan:

  • Deteksi, penyelidikan, dan respons yang berkelanjutan dan otonom di seluruh lingkungan.
  • Koordinasi lintas domain antara sistem keamanan, IT, identitas, dan kepatuhan.
  • Orang berfokus pada tata kelola, strategi, dan penanganan pengecualian.

Indikator kesiapan:

  • Kerangka kerja tata kelola yang matang untuk AI dan otomatisasi.
  • Metrik berkeyakinan tinggi dan integritas data di seluruh sistem.
  • Penyelarasan lintas fungsi yang kuat antara tim keamanan, IT, dan kepatuhan.
  • Kepercayaan yang telah terbangun dalam pengambilan keputusan otomatis dengan kemampuan audit dan pengawasan.

Tren di AI agenik dalam keamanan cyber

AI agenik masih berada pada tahap awal adopsi, tetapi beberapa tren yang jelas kini membentuk bagaimana teknologi ini akan berkembang dalam keamanan.

  • Red teaming otonom. Agen AI akan semakin menyimulasikan perilaku penyerang untuk terus menguji pertahanan, mengidentifikasi kelemahan, serta memvalidasi kontrol keamanan secara real time.
  • Pengulangan agen. AI agenik untuk operasi keamanan akan menjadi lebih berkelanjutan dan meningkat secara mandiri, dengan agen mengamati, bertindak, dan belajar dari hasil untuk meningkatkan deteksi dan respons.
  • Konflik cyber AI ke AI. Karena penyerang cyber juga mengadopsi AI, keterlibatan cyber di masa depan dapat melibatkan sistem agenik bertahan dan menyerang yang saling bersaing secara langsung.
  • Pertahanan prediktif. Alih-alih bereaksi terhadap insiden, sistem agenik akan mengantisipasi ancaman dengan menganalisis pola, data paparan, dan perilaku penyerang untuk mencegah serangan cyber sebelum serangan terjadi.
  • Agen AI kolaboratif. Beberapa agen khusus akan berkoordinasi dalam berbagai tugas, seperti deteksi, penyelidikan, remediasi, dan pelaporan, untuk menciptakan alur kerja keamanan yang lebih dapat diskalakan dan tangguh.
  • Peran analis yang terus berkembang. Analis akan beralih dari tugas penyelidikan dan respons yang berulang ke tanggung jawab bernilai lebih tinggi seperti pengawasan agen, desain kebijakan, dan manajemen risiko strategis.

Microsoft Security dan AI agenik

Organisasi dapat mendeteksi, menyelidiki, dan merespons terhadap ancaman di seluruh aset digital mereka dengan menggunakan platform keamanan terpadu yang didukung AI dari Microsoft. Di pusatnya adalah Microsoft Security Copilot, solusi keamanan bahasa alami berbasis AI yang memungkinkan analis menalar insiden, meringkas ancaman, serta mengoordinasikan tindakan respons di seluruh lingkungan. Agen tertanam memperluas kemampuan ini ke seluruh solusi Microsoft Security.

Microsoft Defender XDR: Operasi SOC agenik

Tim keamanan sering kali kewalahan dengan volume peringatan, triase manual, dan penyelidikan yang terfragmentasi. Di Microsoft Defender XDR, AI agenik membantu memprioritaskan masalah berisiko tinggi, menyelidiki insiden lebih cepat, dan meningkatkan efisiensi respons.

  • Agen Triase Peringatan Keamanan — Memprioritaskan peringatan guna mengurangi kebisingan dan membantu analis fokus pada insiden berisiko tinggi lebih cepat.
  • Agen Analis Keamanan — Menyelidiki insiden, mengorelasikan sinyal, dan merekomendasikan tindakan respons untuk menyederhanakan alur kerja SOC.
  • Agen Pemburu Ancaman — Menelusuri seluruh lingkungan untuk menemukan ancaman tersembunyi, perilaku mencurigakan, dan pola serangan yang muncul.
  • Agen Deteksi Ancaman Dinamis — Menganalisis aktivitas secara berkelanjutan dan menyesuaikan logika deteksi untuk mengidentifikasi ancaman dan anomali yang terus berkembang.
  • Agen Pengarahan Kecerdasan Ancaman — Meringkas inteligensi ancaman menjadi wawasan yang dapat ditindaklanjuti agar tim dapat tetap selangkah di depan risiko yang muncul.

Bersama-sama, agen-agen ini membantu mengurangi penyelidikan manual dan mempercepat respons insiden di seluruh titik akhir, identitas, email, dan beban kerja cloud.

Microsoft Sentinel: Deteksi, perburuan, dan orkestrasi yang dibantu AI

Di Microsoft Sentinel, Security Copilot membantu analis beralih dari penyelidikan manual ke alur kerja bahasa alami berbasis buku perintah. Analis dapat membuat KQL, meringkas insiden, memperkaya entitas, menganalisis pengguna dan perangkat, serta mengotomatiskan langkah penyelidikan melalui Logic Apps dan buku perintah.

Agen pelaporan insiden Sentinel kustom dapat mengekstrak temuan penyelidikan, entitas, wawasan, dan langkah remediasi dari insiden. Buku perintah juga dapat mengotomatiskan analisis pengguna dan menambahkan temuan langsung ke log aktivitas insiden.

Kemampuan ini membantu mengurangi penulisan kueri manual, meningkatkan konsistensi penyelidikan, dan menghemat waktu analis dengan mengotomatiskan tugas berulang.

Microsoft Purview: Keamanan dan kepatuhan data agenik

Di Microsoft Purview, Security Copilot membantu tim mengamankan dan mengelola data di Manajemen Postur Keamanan Data, Pencegahan Kehilangan Data, Manajemen Risiko Dari Dalam, eDiscovery, Audit, dan Kepatuhan Komunikasi.

  • Agen Triase Keamanan Data — Memprioritaskan peringatan DLP dan Risiko Dari Dalam, menjelaskan konteks risiko, dan dapat memulai alur kerja remediasi dengan pemilik data.
  • Agen Postur Keamanan Data — Menemukan data sensitif, mengidentifikasi risiko tersembunyi dan kredensial yang terpapar, meningkatkan pelabelan sensitivitas, serta menghasilkan ringkasan yang siap untuk digunakan eksekutif.

Agen-agen ini membantu tim keamanan mengurangi triase manual, memprioritaskan risiko kritis dengan lebih cepat, serta memperkuat operasi keamanan dan kepatuhan data.

Microsoft Entra: Agen identitas dan akses

Di Microsoft Entra, Security Copilot membantu tim menyelidiki pengguna berisiko, proses masuk yang tidak biasa, akses istimewa, dan ancaman berbasis identitas. Copilot dapat meringkas konteks identitas, menjelaskan sinyal risiko, dan merekomendasikan tindakan seperti pencabutan sesi, peninjauan akses, atau penyesuaian kebijakan Akses Bersyarat.

Kemampuan mencakup agen identitas dan akses serta ID Agen Microsoft Entra, yang membantu organisasi mendaftarkan, mengelola, dan mengatur identitas agen AI dengan manajemen siklus hidup, tata kelola akses, dan kontrol perlindungan identitas.

Kemampuan ini membantu organisasi mengurangi risiko identitas dan menerapkan prinsip Zero Trust di seluruh identitas manusia dan AI.

Microsoft Intune: Agen manajemen titik akhir

Di Microsoft Intune, Security Copilot membantu tim titik akhir dan IT memahami kepatuhan perangkat, penyimpangan konfigurasi, paparan kerentanan, dan kebutuhan remediasi. Copilot dapat meringkas risiko perangkat, menjelaskan masalah ketidakpatuhan, merekomendasikan langkah berikutnya, dan membantu tim merespons lebih cepat.

Agen manajemen titik akhir membantu mengotomatiskan pemeriksaan kepatuhan, menyelidiki masalah perangkat, dan memandu remediasi di seluruh titik akhir terkelola.

Kemampuan ini membantu mengurangi penyelidikan titik akhir manual, meningkatkan operasi kepatuhan, serta menutup celah konfigurasi lebih cepat.

Bersama-sama, Microsoft Security Copilot dan agen tertanam membantu organisasi beralih dari operasi keamanan manual dan reaktif ke pertahanan adaptif berbasis AI yang meningkatkan perlindungan, kecepatan, dan skala di seluruh siklus hidup keamanan.

Tanya jawab umum

  • AI agenik mengacu pada sistem AI dengan kemampuan otonomi dan penalaran yang mengejar tujuan yang telah ditentukan dengan pembuatan perintah yang minimal. Tidak seperti otomatisasi tradisional, sistem ini dapat beradaptasi dengan kondisi yang berubah, merencanakan alur kerja beberapa langkah, dan terus belajar dari hasil untuk meningkatkan performa.
  • AI generatif membuat konten seperti teks, ringkasan, atau kode, sebagai respons terhadap perintah, sedangkan AI agenik merencanakan dan mengambil tindakan untuk memenuhi tujuan keamanan yang telah ditetapkan.
  • AI agentk dalam keamanan cyber berarti menyebarkan agen yang secara otonom menganalisis data, menyelidiki anomali, dan mengorkestrasi alur kerja keamanan dari ujung ke ujung.
  • Contoh umum AI agenik dalam keamanan adalah agen triase peringatan SOC yang secara otomatis memperkaya peringatan keamanan dengan data kontekstual, menghitung skor risiko, serta merekomendasikan langkah berikutnya untuk mitigasi.
  • Solusi respons otomatis pengaturan keamanan (SOAR) mengandalkan playbook statik yang telah ditentukan sebelumnya untuk mengotomatiskan tindakan respons, sehingga sangat prosedural dan terbatas dalam kemampuan beradaptasi. Sebaliknya, AI agenik menganalisis konteks, menyesuaikan alur kerja secara dinamis, dan terus belajar, sehingga dapat menangani skenario serangan cyber yang kompleks atau terus berkembang tanpa bergantung pada aturan orkestrasi yang kaku.

Ikuti Microsoft Security