การรักษาความปลอดภัยด้วย AI แบบเอเจนต์คืออะไร

ระบบ AI แบบดั้งเดิมออกแบบมาเพื่อปฏิบัติงานเฉพาะเจาะจงตามที่กำหนดไว้ล่วงหน้า โดยอิงตามข้อมูลนำเข้าหรือข้อมูลในอดีต โดยทั่วไป ความพยายามด้านการรักษาความปลอดภัยจะมุ่งเน้นไปยังการปกป้องโมเดล การดูแลรักษาความปลอดภัยของข้อมูลที่ใช้ในการฝึก และการตรวจสอบความถูกต้องของผลลัพธ์ในระหว่างการปฏิบัติงาน มาตรการเหล่านี้ช่วยให้องค์กรสามารถรักษาความถูกต้องครบถ้วนและความน่าเชื่อถือให้อยู่ภายในขอบเขตที่กำหนดไว้ได้

ความสามารถด้านการทำงานอย่างเป็นอิสระและการตัดสินใจของ AI แบบเอเจนต์ นำมาซึ่งความท้าทายที่แนวทางแบบดั้งเดิมไม่ได้รับการออกแบบมาเพื่อรองรับ ความแตกต่างที่สําคัญ ได้แก่:

• พฤติกรรมของระบบ: ระบบ AI แบบดั้งเดิมจะตอบสนองต่อพร้อมท์หรือข้อมูลป้อนเข้า ในขณะที่ระบบ AI แบบเอเจนต์จะวางแผนและปฏิบัติงานต่างๆ ด้วยตนเอง เนื่องจากเอเจนต์สามารถดำเนินการต่างๆ ได้อย่างอิสระ การตัดสินใจของเอเจนต์จึงส่งผลกระทบโดยตรงต่อการปฏิบัติงาน
• การตัดสินใจ: AI แบบดั้งเดิมมักจะทำงานตามตรรกะที่กำหนดไว้ล่วงหน้าหรือผลลัพธ์ของโมเดล AI แบบเอเจนต์จะปรับเปลี่ยนการตัดสินใจตามบริบทและผลลัพธ์ในแต่ละขั้นตอน ทำให้พฤติกรรมคาดเดาได้ยากขึ้น และส่งผลให้ความจำเป็นในการติดตามตรวจสอบอย่างต่อเนื่องและมาตรการป้องกันเพิ่มสูงขึ้นตามไปด้วย
• ขอบเขตของกิจกรรม: AI แบบดั้งเดิมมักจะทำงานอยู่ภายใต้แอปพลิเคชันหรือเวิร์กโฟลว์เพียงรูปแบบเดียว AI แบบเอเจนต์สามารถทำงานระหว่างระบบ เครื่องมือ และแหล่งข้อมูลต่างๆ ที่หลากหลายได้ ซึ่งส่งผลให้ผลกระทบจากข้อผิดพลาดหรือการถูกเจาะระบบมีโอกาสขยายวงกว้างมากกว่าเดิม
• การใช้เครื่องมือ: โดยทั่วไป AI แบบดั้งเดิมจะพึ่งพาการรวมระบบที่กำหนดไว้ล่วงหน้า AI แบบเอเจนต์สามารถเรียกใช้ API, เครื่องมือ และบริการต่างๆ ได้อย่างยืดหยุ่น ซึ่งส่งผลให้เกิดช่องทางเพิ่มมากขึ้นสำหรับการนำไปใช้ในทางที่ผิดหรือการถูกโจมตี
• ข้อมูลประจําตัวและการเข้าถึง: AI แบบดั้งเดิมอาจทำงานภายใต้ข้อมูลประจำตัวสำหรับบริการที่ใช้ร่วมกันหรือแบบแอบแฝง ระบบ AI แบบเอเจนต์โดยทั่วไปจะต้องมีอัตลักษณ์ที่แยกแยะได้อย่างชัดเจนและมีการกำหนดสิทธิในการเข้าถึงที่กำหนดไว้ ซึ่งส่งผลให้การกำกับดูแลข้อมูลประจำตัวและการกำหนดสิทธิ์เข้าถึงเท่าที่จำเป็นกลายเป็นสิ่งสำคัญยิ่ง
• พื้นหน้าของการโจมตี: การรักษาความปลอดภัยด้วย AI แบบดั้งเดิมมุ่งเน้นไปยังการปกป้องข้อมูลนำเข้าสำหรับโมเดลและข้อมูลที่ใช้ในการฝึกเป็นหลัก AI แบบเอเจนต์จะขยายพื้นหน้าของการโจมตีให้ครอบคลุมถึงเครื่องมือ เวิร์กโฟลว์ ความจำ และระบบต่างๆ ที่เชื่อมต่ออยู่ ซึ่งเป็นการเพิ่มความเสี่ยงต่อการถูกนำไปใช้ในทางที่ผิดและจากช่องโหว่

องค์กรที่ใช้กระบวนการที่มีโครงสร้างชัดเจน มีแนวโน้มที่จะสามารถระบุ ทำความเข้าใจ และบริหารจัดการความเสี่ยงที่ระบบอาจต้องเผชิญได้ดีกว่า เมื่อต้องสร้างโมเดลภัยคุกคามในระบบ AI แบบเอเจนต์ สิ่งสำคัญคือต้องขยายขอบเขตให้ครอบคลุมมากกว่าแอปพลิเคชัน โครงสร้างพื้นฐาน และการไหลเวียนของข้อมูล โดยต้องครอบคลุมถึง:

เป้าหมายและพฤติกรรมของเอเจนต์

ระบุการดำเนินการที่ไม่พึงประสงค์ที่อาจเกิดขึ้น โดยการกำหนดขอบเขตสิ่งที่เอเจนต์ได้รับการออกแบบมาให้ทำ ซึ่งรวมถึง:

• วัตถุประสงค์ที่สามารถขับเคลื่อนให้บรรลุผลสำเร็จได้
• วิธีการวางแผนและดําเนินการปฏิบัติงาน
• ระดับการทำงานอย่างเป็นอิสระที่มี

ข้อมูลประจำตัวและการเข้าถึง

การกำหนดสิทธิ์การเข้าถึงที่กว้างจนเกินไป จะเพิ่มความเสี่ยงจากช่องโหว่หรือการนำไปใช้ในทางที่ผิด เมื่อตั้งค่าข้อมูลประจําตัว ให้ประเมิน:

• ระบบและข้อมูลที่เอเจนต์สามารถเข้าถึงได้
• สิทธิในการเข้าถึงเป็นไปตามหลักการให้สิทธิ์เท่าที่จำเป็นหรือไม่
• วิธีการที่เอเจนต์รับรองความถูกต้องกับบริการอื่นๆ

เครื่องมือและการรวมระบบ

ระบบแบบเอเจนต์พึ่งพาเครื่องมือภายนอกในการบรรลุเป้าหมาย ซึ่งอาจขยายพื้นหน้าของการโจมตีได้ เพื่อปกป้องสภาพแวดล้อมของคุณ ให้กําหนด:

• API, ปลั๊กอิน และฐานข้อมูลที่เอเจนต์สามารถเรียกใช้ได้
• ข้อมูลอินพุตและเอาต์พุตของเครื่องมือได้รับการตรวจสอบความถูกต้องหรือไม่
• วิธีการอนุญาตและจํากัดการดําเนินการ

ข้อมูลป้อนเข้าและแหล่งข้อมูล

เอเจนต์จะรับข้อมูลจากทั้งบุคคลและระบบภายนอกเข้ามาอย่างต่อเนื่อง เพื่อลดความเสี่ยงจากข้อมูลป้อนเข้าที่ไม่น่าเชื่อถือ ให้พิจารณา:

• ความเสี่ยงจากการถูกพร้อมท์แทรกแซงหรือข้อมูลป้อนเข้าที่เป็นอันตราย
• การทำให้ข้อมูลเป็นพิษหรือการบิดเบือนข้อมูล
• ขอบเขตความน่าเชื่อถือระหว่างข้อมูลภายในและภายนอก

ความจําและสถานะ

เอเจนต์จํานวนมากจะบันทึกข้อมูลบริบทอย่างต่อเนื่อง ซึ่งอาจส่งผลให้ความรุนแรงของการโจมตีเพิ่มมากขึ้น เพื่อลดความเสี่ยงนี้ ให้พิจารณา:

• ข้อมูลที่จัดเก็บไว้ในหน่วยความจํา
• มีการเก็บรักษาหรือเปิดเผยข้อมูลที่ละเอียดอ่อนหรือไม่
• กลไกที่ความจำสามารถถูกเปลี่ยนแปลงหรือได้รับความเสียหาย

การปฏิบัติงานให้เสร็จสิ้นและการดําเนินการ

เพื่อช่วยป้องกันไม่ให้ความเสี่ยงทางเทคนิคกลายเป็นความเสี่ยงด้านการปฏิบัติงาน ให้ประเมิน:

• การดําเนินการที่เอเจนต์สามารถทําได้โดยไม่ต้องได้รับการอนุมัติจากบุคคล
• มาตรการป้องกันที่จะช่วยจํากัดการปฏิบัติงานที่มีความเสี่ยงสูง
• สถานการณ์ที่อาจนำไปสู่การดำเนินการที่ส่งผลกระทบต่อเนื่องไปยังระบบอื่นๆ

การติดตามตรวจสอบและการตอบสนอง

เนื่องจากพฤติกรรมมีการเปลี่ยนแปลงตลอดเวลา การมองเห็นข้อมูลจึงเป็นหัวใจสำคัญ การติดตามตรวจสอบที่สามารถช่วยคุณตรวจจับหรือจำกัดวงความเสียหายของปัญหาได้ในเวลาจริง ได้แก่:

• การบันทึกการตัดสินใจและการดําเนินการ
• การตรวจจับความผิดปกติหรือการละเมิดนโยบาย
• การสร้างความสามารถในการหยุดชั่วคราว แทนที่ หรือปิดใช้งานเอเจนต์

การจัดการกับความเสี่ยงตั้งแต่เนิ่นๆ ในกระบวนการออกแบบและการปรับใช้งาน จะช่วยให้คุณสามารถรักษาความน่าเชื่อถือและความถูกต้องสมบูรณ์ในการปฏิบัติงานไว้ได้ เมื่อคุณสร้างโมเดลภัยคุกคามในระบบ AI แบบเอเจนต์ คุณอาจ'จะพบความเสี่ยงในหลากหลายประเภท ซึ่งรวมถึง:

ความเสี่ยงด้านการทำงานอย่างเป็นอิสระ

เนื่องจากสามารถตัดสินใจได้ด้วยตนเอง เอเจนต์จึงอาจดำเนินการในสิ่งที่คุณไม่ได้คาดการณ์ไว้ล่วงหน้า ข้อผิดพลาดเพียงจุดเดียวอาจส่งผลให้ระบบอัตโนมัติอื่นๆ ที่เชื่อมต่อกันทำงานต่อเนื่องเป็นลูกโซ่ ซึ่งนำไปสู่การเปลี่ยนแปลงที่ไม่พึงประสงค์ ปัญหาด้านข้อมูล หรือการหยุดชะงักของการปฏิบัติงาน การทำงานอย่างเป็นอิสระยังส่งผลให้พฤติกรรมคาดเดาได้ยากขึ้นด้วย เมื่อเอเจนต์เริ่มปรับตัวตามข้อมูลนำเข้าและเงื่อนไข จึงกลายเป็นเรื่องยากขึ้นเรื่อยๆ ที่จะทดสอบให้ครบทุกสถานการณ์หรือจะพึ่งพาเพียงแค่กฎเกณฑ์ที่ตายตัว

ความเสี่ยงด้านการรักษาความปลอดภัย

การเชื่อมต่อกับ API, ระบบข้อมูลประจําตัว และเครื่องมือภายนอกจะเพิ่มความเสี่ยง หากผู้โจมตีสามารถใช้ประโยชน์จากการรวมระบบเหล่านี้ ก็จะสามารถยกระดับสิทธิ์ในการเข้าถึงหรือปลอมแปลงตนเองเป็นระบบที่น่าเชื่อถือ ซึ่งอาจส่งผลให้เกิดการสูญเสียข้อมูลหรือปัญหาด้านการปฏิบัติงานได้

ความเสี่ยงด้านความปลอดภัยและการกํากับดูแล

ลักษณะการทำงานอย่างเป็นอิสระของ AI แบบเอเจนต์ส่งผลให้การกำกับดูแลมีความสำคัญเป็นอย่างยิ่ง หากขาดการกำกับดูแลที่มีประสิทธิภาพ ย่อมเป็นเรื่องยากที่จะสืบทราบถึงเหตุการณ์ที่เกิดขึ้น รับทราบถึงเหตุผลเบื้องหลังการตัดสินใจของเอเจนต์ หรือระบุตัวบุคคลผู้รับผิดชอบต่อผลลัพธ์ที่ตามมา

ความเสี่ยงด้านห่วงโซ่อุปทานและโมเดล

AI แบบเอเจนต์มักจะต้องพึ่งพาโมเดล, ไลบรารี และเครื่องมือจากบริษัทภายนอก ซึ่งแต่ละส่วนล้วนเป็นการเพิ่มความเสี่ยงอีกชั้นหนึ่ง หากหนึ่งในส่วนประกอบเหล่านี้มีช่องโหว่ อาจส่งผลกระทบต่อระบบทั้งหมดได้ ตัวอย่างเช่น ผู้โจมตีอาจใช้การอัปเดตที่เป็นอันตรายของ API จากบริษัทภายนอก เพื่อควบคุมพฤติกรรมของเอเจนต์

ข้อควรพิจารณาด้านจริยธรรม

หากไม่มีการควบคุมที่เหมาะสม เอเจนต์อาจให้ผลลัพธ์ที่มีอคติ หรือจัดการข้อมูลในลักษณะที่ขัดต่อหลักความเป็นส่วนตัวและความคาดหวังตามข้อกำหนดทางกฎหมาย มาตรฐานที่ชัดเจนจะช่วยให้องค์กรสามารถบังคับใช้หลักความยุติธรรม ความโปร่งใส และการปฏิบัติตามข้อบังคับได้อย่างมีประสิทธิภาพ

คุณสามารถช่วยขับเคลื่อนระบบ AI ให้มีความปลอดภัย น่าเชื่อถือ และสอดคล้องกับเป้าหมายทางธุรกิจได้ โดยมุ่งเน้นไปยังประเด็นหลักเพียงไม่กี่ประการ หลักการเหล่านี้ช่วยให้คุณควบคุมพฤติกรรม การเข้าถึง และการมีปฏิสัมพันธ์กับระบบอื่นๆ ได้ เพื่อให้เอเจนต์ของคุณสามารถตัดสินใจและปฏิบัติงานต่างๆ โดยมีความเสี่ยงต่ำที่สุด

ระบบบริหารจัดการตัวตนและการเข้าถึงทรัพยากร

เพื่อรักษาความรับผิดชอบที่ตรวจสอบได้และความสามารถในการตรวจสอบย้อนกลับได้ ควรปฏิบัติกับระบบ AI แบบเอเจนต์เสมือนเป็นหนึ่งเอกลักษณ์บุคคลที่มีสิทธิ์เทียบเท่า และนำระบบดังกล่าวเข้าเป็นส่วนหนึ่งของกรอบการกำกับดูแลอัตลักษณ์ที่มีอยู่เดิม กำหนดข้อมูลประจำตัวเฉพาะสำหรับเอเจนต์แต่ละตัว บังคับใช้หลักการสิทธิ์ในการเข้าถึงเท่าที่จำเป็น และนำกลไกการรับรองความถูกต้องที่มีประสิทธิภาพไปใช้

การบังคับใช้มาตรการป้องกันและนโยบาย

คุณสามารถกำหนดขอบเขตพฤติกรรมของเอเจนต์ได้อย่างชัดเจน ผ่านการควบคุมที่อิงตามนโยบาย มาตรการป้องกันควรจำกัดเครื่องมือที่เอเจนต์สามารถเข้าถึงได้ การดำเนินการที่สามารถทำได้ และเงื่อนไขที่อนุญาตให้ดำเนินการ การบังคับใช้โยบายในเวลาจริงจะช่วยคุณป้องกันการดำเนินการที่ไม่ได้รับอนุญาตหรือไม่ปลอดภัย

ความสามารถในการสังเกตการณ์และการติดตามตรวจสอบ

ความสามารถในการสังเกตการณ์ช่วยให้เรามองเห็นพฤติกรรมของเอเจนต์ การตัดสินใจ การเข้าถึงข้อมูล และการใช้เครื่องมือต่างๆ ได้อย่างชัดเจน ซึ่งช่วยให้องค์กรสามารถตรวจจับความผิดปกติ ตรวจสอบความเสี่ยง และบังคับใช้การกำกับดูแล เพื่อให้เอเจนต์ปฏิบัติงานได้อย่างปลอดภัย โปร่งใส และเป็นไปตามนโยบายที่กำหนด การติดตามตรวจสอบอย่างต่อเนื่องคือหัวใจสําคัญในการตรวจจับความผิดปกติในพฤติกรรมของเอเจนต์ นำการวิเคราะห์ไปใช้เพื่อติดตามการดำเนินการ การตัดสินใจ และการใช้เครื่องมือของเอเจนต์

การคุ้มครองข้อมูลส่วนบุคคล

เอเจนต์มักต้องจัดการกับข้อมูลที่ละเอียดอ่อนในระหว่างการปฏิบัติงาน เพื่อลดความเสี่ยงจากการรั่วไหลของข้อมูล ให้นำระบบการเข้ารหัสไปใช้กับข้อมูลที่มีการเคลื่อนย้ายและข้อมูลที่จัดเก็บอยู่ บังคับใช้แนวทางปฏิบัติในการลดขนาดข้อมูลอย่างเคร่งครัด และติดตามตรวจสอบการเข้าถึงข้อมูลที่ไม่ได้รับอนุญาต

การรักษาความปลอดภัยของโมเดลและห่วงโซ่อุปทาน

การรักษาความปลอดภัยของห่วงโซ่อุปทานด้านซอฟต์แวร์มีบทบาทสำคัญอย่างมากต่อการรักษาความปลอดภัยด้วย AI แบบเอเจนต์ สิ่งสําคัญคือต้องตรวจสอบความถูกต้องว่าโมเดล, API และเครื่องมือของบริษัทภายนอกมีความน่าเชื่อถือและทํางานได้ตามที่คาดไว้ สำหรับส่วนประกอบภายนอก ให้ตรวจสอบยืนยันแหล่งที่มาผ่านแนวทางปฏิบัติต่างๆ เช่น การเซ็นโค้ด การตรวจสอบความถูกต้องของแพคเกจ และการใช้แหล่งกระจายซอฟต์แวร์ที่เชื่อถือได้

การกํากับดูแลและการตรวจสอบโดยมนุษย์

ท้ายที่สุด เพื่อปรับการทำงานของ AI แบบเอเจนต์ให้สอดคล้องกับหลักการ AI ที่รับผิดชอบ และ ข้อกำหนดด้านการปฏิบัติตามข้อบังคับทางกฎหมาย ให้ตัดสินใจว่าการดำเนินการใดบ้างที่ได้รับอนุญาต ใครคือบุคคลผู้มีหน้าที่รับผิดชอบต่อผลลัพธ์ และวิธีการที่คุณจะบังคับใช้การตัดสินใจเหล่านั้น

การรักษาความปลอดภัยของ AI แบบเอเจนต์ต้องใช้แนวทางเชิงรุกที่มีการป้องกันเป็นลำดับชั้น ซึ่งรับมือกับความท้าทายทั้งในทางเทคนิคและด้านการกำกับดูแล แนวทางปฏิบัติเพียงไม่กี่ข้อสามารถช่วยให้คุณสร้างและขยายระบบให้ตอบสนองต่อเป้าหมายทางธุรกิจ ควบคู่ไปกับการบริหารจัดการความเสี่ยงได้

เริ่มต้นด้วยงานที่มีขอบเขตเฉพาะเจาะจงและมีการกำหนดขอบเขตอย่างชัดเจน

เริ่มต้นด้วยการปรับใช้ AI แบบเอเจนต์ในสภาพแวดล้อมที่มีการควบคุมและจำกัดฟังก์ชันการทำงาน การมอบหมายงานที่มีความเสี่ยงต่ำและขอบเขตชัดเจนให้แก่เอเจนต์ จะช่วยลดผลกระทบให้เหลือน้อยที่สุดหากเกิดข้อผิดพลาดขึ้น

ใช้สภาพแวดล้อมแบบ Sandbox สําหรับการดําเนินการของเอเจนต์

เพื่อลดความเสี่ยงที่มีต่อสภาพแวดล้อมการปฏิบัติงานจริงและข้อมูลที่ละเอียดอ่อน ให้แยกส่วนการปฏิบัติงานของเอเจนต์ไว้ในสภาพแวดล้อมแบบ Sandbox หรือสภาพแวดล้อมเสมือน นำมาตรการควบคุมการจัดประเภทข้อมูลไปใช้ เช่น ป้ายชื่อระดับความลับ เพื่อรับรองว่าเอเจนต์จะมีปฏิสัมพันธ์กับข้อมูลที่ได้รับอนุมัติแล้วเท่านั้น โดยอิงตามการจัดประเภทและระดับความลับ

นำมาตรการป้องกันแบบเป็นลำดับชั้นมาใช้

การติดตามตรวจสอบและควบคุมระบบแบบไดนามิกอาจเป็นเรื่องที่ยุ่งยาก แต่คุณสามารถจำกัดพฤติกรรมของเอเจนต์ได้ โดยการกำหนดสิทธิ์การเข้าถึงเครื่องมือ การดำเนินการที่สามารถทำได้ และเงื่อนไขในการปฏิบัติงาน กําหนดอัตลักษณ์ที่แยกแยะได้อย่างชัดเจนให้กับเอเจนต์และบังคับใช้มาตรการควบคุมการเข้าถึงตามบทบาท เพื่อกำกับดูแลสิทธิ์ในการเข้าถึงข้อมูลและระบบต่างๆ เพื่อการควบคุมขั้นสูงสุด ควรผสานรวมนโยบายที่กำหนดไว้อย่างชัดเจนควบคู่ไปกับการตรวจสอบรันไทม์ที่มีการเปลี่ยนแปลงตลอดเวลา

ทดสอบอย่างต่อเนื่องเพื่อตรวจจับการถูกพร้อมท์แทรกแซงและการหลีกเลี่ยงมาตรการความปลอดภัย

เนื่องจาก AI แบบเอเจนต์สามารถทำงานได้อย่างเป็นอิสระและเชื่อมโยงการดำเนินการหลายรายการเข้าด้วยกัน จึงมีความเสี่ยงที่ผู้โจมตีจะเข้ามาบิดเบือนข้อมูลนำเข้า เพื่อสั่งการให้ AI มีพฤติกรรมที่ไม่ปลอดภัยหรือไม่พึงประสงค์ ดำเนินการจำลองสถานการณ์ภัยคุกคามโดยทีมรุกและการทดสอบเพื่อรับมือการโจมตีอย่างสม่ำเสมอ เพื่อตรวจพบช่องโหว่ล่วงหน้าก่อนถูกผู้ไม่ประสงค์ดีโจมตี

กำหนดเส้นทางการส่งเรื่องต่อและเวิร์กโฟลว์การกํากับดูแล

จัดทำขั้นตอนปฏิบัติในการส่งเรื่องต่อที่ชัดเจน สำหรับการดำเนินการที่มีความเสี่ยงสูง สําหรับการปฏิบัติงานที่ละเอียดอ่อน เช่น ธุรกรรมทางการเงินหรือการเปลี่ยนแปลงการกำหนดค่าระบบ ให้นำจุดตรวจสอบโดยใช้มนุษย์ร่วมตรวจสอบมาใช้

สอดคล้องกับหลักการด้าน AI ที่รับผิดชอบ

สร้างเอเจนต์ที่ปฏิบัติตามมาตรฐานทางจริยธรรม แนวทางปฏิบัติด้านความยุติธรรม และข้อกำหนดทางกฎหมาย โดยการผสานรวมการทดสอบอคติ การทบทวนความสามารถในการอธิบายเหตุผล และการตรวจสอบความถูกต้องของการปฏิบัติตามข้อบังคับเข้าด้วยกัน เนื่องจากกฎหมายด้าน AI และความเป็นส่วนตัวของข้อมูลมีการพัฒนาอยู่ตลอดเวลา จึงเป็นเรื่องที่ดีที่จะต้องประเมินระบบของคุณอย่างสม่ำเสมอ เพื่อให้ระบบสามารถตามทันความเปลี่ยนแปลงดังกล่าวได้

ไม่ใช่ทุกรูปแบบการใช้ AI แบบเอเจนต์จะมีความเสี่ยงเท่ากัน การรับทราบถึงความแตกต่างระหว่างสถานการณ์ที่มีความเสี่ยงต่ำและมีความเสี่ยงสูง จะช่วยให้คุณสามารถจัดลำดับความสำคัญได้ว่าควรเริ่มต้นจากจุดใด และควรนำมาตรการควบคุมใดมาปรับใช้ รูปแบบการใช้การรักษาความปลอดภัยด้วย AI แบบเอเจนต์ที่พบบ่อยทั้งสองรูปแบบจะช่วยแสดงให้เห็นถึงความแตกต่างได้อย่างชัดเจน:

การคัดกรองการสนับสนุนลูกค้า (ความเสี่ยงต่ำ)

ในสถานการณ์นี้ ระบบ AI แบบเอเจนต์จะช่วยเหลือทีมบริการลูกค้า โดยการจัดหมวดหมู่ตั๋วที่เข้ามา แนะนำแนวทางการตอบกลับ และส่งต่อปัญหาไปยังแผนกที่ถูกต้อง

• เหตุใดจึงมีความเสี่ยงต่ำ:
  • เอเจนต์ทำงานในสภาพแวดล้อมที่มีการควบคุม
  • การดำเนินการจำกัดอยู่เพียงการจัดประเภทตั๋วและการให้คำแนะนำในการตอบเท่านั้น
  • ไม่มีการเข้าถึงโดยตรงไปยังระบบทางการเงินหรือระบบปฏิบัติการที่ละเอียดอ่อน
• ข้อควรพิจารณาด้านการรักษาความปลอดภัย:
  • นำมาตรการป้องกันไปใช้เพื่อป้องกันไม่ให้เอเจนต์ส่งต่อตั๋วโดยไม่ได้รับการอนุมัติ
  • ติดตามตรวจสอบความพยายามในการถูกพร้อมท์แทรกแซงที่อาจส่งผลกระทบต่อการกำหนดเส้นทางตั๋ว

การดำเนินการธุรกรรมทางการเงินแบบอัตโนมัติ (ความเสี่ยงสูง)

ในกรณีนี้ ระบบ AI แบบเอเจนต์ได้รับอนุญาตให้เริ่มต้นและอนุมัติธุรกรรมทางการเงินตามกฎธุรกิจที่กําหนดไว้ล่วงหน้า

• เหตุใดจึงมีความเสี่ยงสูง:
  • เอเจนต์มีสิทธิ์เข้าถึงระบบทางการเงินและข้อมูลที่ละเอียดอ่อนโดยตรง
  • หากระบบมีช่องโหว่ อาจนำไปสู่ความเสี่ยงที่จะเกิดการทุจริตในวงกว้างหรือการหยุดชะงักของการปฏิบัติงาน
• ข้อควรพิจารณาด้านการรักษาความปลอดภัย:
  • บังคับใช้ระบบบริหารจัดการตัวตนและการเข้าถึงทรัพยากรอย่างเข้มงวดสําหรับเอเจนต์
  • นำระบบการอนุมัติโดยใช้มนุษย์ร่วมตรวจสอบมาใช้สำหรับธุรกรรมที่มีมูลค่าสูง
  • ติดตามตรวจสอบรูปแบบธุรกรรมที่ผิดปกติอย่างต่อเนื่อง

ก่อนที่จะปรับใช้หรือปรับขนาดระบบ AI แบบเอเจนต์ ให้สละเวลาเพื่อตรวจสอบความพร้อมขององค์กรของคุณอีกครั้งในด้านสําคัญบางประการ:

• ความพร้อมด้านการกํากับดูแล มีการกำหนดเส้นทางการส่งเรื่องต่อและเวิร์กโฟลว์การอนุมัติหรือไม่
• การควบคุมข้อมูลประจำตัว เอเจนต์ได้รับการจัดการในฐานะอัตลักษณ์ที่มีลักษณะเฉพาะ และได้รับสิทธิ์ในการเข้าถึงเท่าที่จำเป็นหรือไม่
• ความสามารถในการติดตามตรวจสอบ องค์กรสามารถตรวจจับและตอบสนองต่อพฤติกรรมที่ผิดปกติของเอเจนต์ในเวลาจริงได้หรือไม่
• ความสามารถในการรับความเสี่ยง ธุรกิจรับทราบและยอมรับผลกระทบที่อาจเกิดขึ้นจากการทำงานอย่างเป็นอิสระของเอเจนต์ในรูปแบบการใช้ที่เลือกไว้แล้วหรือไม่

การเริ่มต้นจากสถานการณ์ที่มีความเสี่ยงต่ำ แล้วจึงค่อยๆ นำ AI แบบเอเจนต์มาใช้กับเวิร์กโฟลว์ที่ซับซ้อนยิ่งขึ้น จะช่วยให้องค์กรของคุณสามารถสร้างความเชื่อมั่นควบคู่ไปกับการรักษาความปลอดภัยและการปฏิบัติตามข้อบังคับได้

การรักษาความปลอดภัยของ AI แบบเอเจนต์ถือเป็นส่วนสำคัญอย่างยิ่งในการนำระบบอัตโนมัติไปใช้อย่างมีความรับผิดชอบ เนื่องจากระบบเหล่านี้มีบทบาทในการตัดสินใจมากขึ้นและมีการเชื่อมต่อระหว่างสภาพแวดล้อมต่างๆ จึงก่อให้เกิดความเสี่ยงในรูปแบบที่แนวทางการรักษาความปลอดภัยแบบดั้งเดิมไม่ได้รับการออกแบบมาเพื่อจัดการ การกำกับข้อมูลประจำตัว การบังคับใช้นโยบายอย่างชัดเจน และการติดตามตรวจสอบอย่างต่อเนื่อง มีบทบาทสำคัญในการทำให้ระบบต่างๆ สอดคล้องกับเจตจำนงทางธุรกิจและข้อกำหนดด้านการปฏิบัติตามข้อบังคับ การใช้แนวทางเชิงรุกจะช่วยให้คุณสามารถรักษาความน่าเชื่อถือ ลดความเสี่ยงต่อภัยคุกคามที่เกิดขึ้นใหม่ และควบคุมพฤติกรรมของระบบอัตโนมัติให้อยู่ภายในขอบเขตที่กำหนดไว้ได้

คุณสามารถสนับสนุนการปรับใช้ AI ที่ปลอดภัยยิ่งขึ้นได้ในองค์กรด้วยชุดโซลูชันการรักษาความปลอดภัยด้วย AI แบบเอเจนต์ครบวงจรจาก Microsoft Microsoft Security รวบรวมความสามารถด้านระบบบริหารจัดการตัวตนและการเข้าถึงทรัพยากร, การตรวจจับภัยคุกคาม, การปกป้องข้อมูล และการกำกับดูแลเข้าไว้ด้วยกัน เพื่อช่วยให้คุณสามารถควบคุมระบบอัตโนมัติได้อย่างมีประสิทธิภาพ ด้วย AI สําหรับการรักษาความปลอดภัยทางไซเบอร์ในตัว คุณจึงสามารถเร่งกระบวนการตรวจสอบและช่วยให้ทีมงานทำงานร่วมกันได้อย่างมีประสิทธิภาพยิ่งขึ้น เมื่อนำแนวทางแก้ไขเหล่านี้มารวมกัน จะช่วยสร้างรากฐานที่สามารถนำไปปฏิบัติได้จริงสำหรับการบริหารจัดการความเสี่ยง, การปกป้องระบบ AI และการสนับสนุนการใช้งาน AI แบบเอเจนต์อย่างมีความรับผิดชอบ