- การกำกับดูแลโดยมนุษย์ใน AI คืออะไร (และไม่ใช่สิ่งใด)?
- การมีมนุษย์เข้ามาเกี่ยวข้องในกระบวนการทำงาน: โมเดลเชิงปฏิบัติสำหรับเวิร์กโฟลว์บริการ AI
- มนุษย์เสริมพลังอัตโนมัติ SOC: ที่ซึ่งปัญญาประดิษฐ์และความเชี่ยวชาญของมนุษย์ทำงานร่วมกัน
- การบรรลุความรับผิดชอบที่แท้จริงใน AI ด้วยการแทรกแซงของมนุษย์
- การรับมือกับความท้าทายทั่วไปในการนำระบบการกำกับดูแลมนุษย์ไปใช้
- การบูรณาการการกำกับดูแลเข้าสู่กระบวนการบริหารจัดการ AI
การกำกับดูแลโดยมนุษย์ในการปฏิบัติการรักษาความปลอดภัยแบบอัตโนมัติ

AI และการเรียนรู้ของเครื่องช่วยปรับปรุงความปลอดภัยทางไซเบอร์ขององค์กรได้อย่างไร
เชื่อมโยงทุกจุดในภูมิทัศน์ภัยคุกคามที่ซับซ้อน

สัมผัสประสบการณ์การรักษาความปลอดภัยที่ขับเคลื่อนด้วย AI ในการดำเนินการ!
ค้นพบ AI อันล้ำสมัยของ Stellar Cyber เพื่อการตรวจจับและตอบสนองภัยคุกคามในทันที กำหนดเวลาการสาธิตของคุณวันนี้!
การกำกับดูแลโดยมนุษย์ใน AI คืออะไร (และไม่ใช่สิ่งใด)?
การกำกับดูแลโดยมนุษย์ประกอบด้วยอะไรบ้าง
- การตรวจสอบเชิงรุก: นักวิเคราะห์ด้านความปลอดภัยตรวจสอบการแจ้งเตือนที่สร้างโดย AI การจำแนกประเภทภัยคุกคาม และการดำเนินการตอบสนองอัตโนมัติ ก่อนหรือหลังการดำเนินการ
- อำนาจในการเข้าแทรกแซง: บุคลากรที่ได้รับมอบหมายยังคงมีอำนาจในการแก้ไข ระงับ หรือปิดกระบวนการที่ขับเคลื่อนด้วย AI เมื่อผลลัพธ์เบี่ยงเบนจากพฤติกรรมที่คาดหวัง
- ลูปคำติชม: กลไกที่เป็นระบบสำหรับผู้ปฏิบัติงานที่เป็นมนุษย์ในการแก้ไขแบบจำลอง AI ปรับปรุงกฎการตรวจจับ และระบุผลลัพธ์ที่ผิดพลาดหรือภัยคุกคามที่ตรวจไม่พบ
- การมอบหมายความรับผิดชอบ: มีการจัดทำเอกสารอย่างชัดเจนว่าใครเป็นผู้รับผิดชอบในการตัดสินใจที่ใช้ปัญญาประดิษฐ์ (AI) เพื่อให้มั่นใจว่าไม่มีการกระทำใดเกิดขึ้นโดยปราศจากความรับผิดชอบ
สิ่งที่การกำกับดูแลโดยมนุษย์ไม่ใช่
การกำกับดูแลโดยมนุษย์ไม่ใช่การประทับตราอนุมัติโดยไม่มีหลักฐานสนับสนุน การมีบุคคลที่ได้รับมอบหมายให้ตรวจสอบผลลัพธ์ของ AI โดยปราศจากการฝึกอบรม เครื่องมือ หรืออำนาจในการโต้แย้งผลลัพธ์เหล่านั้น ไม่ถือเป็นการกำกับดูแลที่มีความหมาย และไม่ใช่ขั้นตอนการตั้งค่าเพียงครั้งเดียวระหว่างการใช้งาน การกำกับดูแลต้องต่อเนื่อง ปรับเปลี่ยนได้ และจัดสรรทรัพยากรอย่างเหมาะสม องค์กรที่มองว่าการกำกับดูแลเป็นเพียงการทำตามขั้นตอนก็เพียงพอแล้ว จะเผชิญกับความเสี่ยงเช่นเดียวกับการทำงานอัตโนมัติโดยไม่มีการกำกับดูแลอย่างสมบูรณ์
ในบริบทของการปฏิบัติการด้านความปลอดภัย แพลตฟอร์มอย่าง Stellar Cyber มอบชั้นการมองเห็นที่ทำให้การกำกับดูแลอย่างแท้จริงเป็นไปได้ เมื่อระบบ AI เชื่อมโยงการแจ้งเตือนหลายพันรายการเข้ากับเหตุการณ์ที่มีลำดับความสำคัญ นักวิเคราะห์จำเป็นต้องมีรายละเอียดเชิงบริบท ไม่ใช่แค่คะแนน เพื่อประกอบการตัดสินใจอย่างรอบรู้
เหตุใดการกำกับดูแลโดยมนุษย์จึงเป็นรากฐานสำคัญของ AI ที่มีความรับผิดชอบ?
การป้องกันข้อผิดพลาดอัตโนมัติในระดับขนาดใหญ่
การรักษาความไว้วางใจในองค์กร
ความจำเป็นด้านกฎระเบียบและกฎหมาย
การปรับตัวให้เข้ากับสภาวะที่ไม่เอื้ออำนวย
การมีมนุษย์เข้ามาเกี่ยวข้องในกระบวนการทำงาน: โมเดลเชิงปฏิบัติสำหรับเวิร์กโฟลว์บริการ AI
เปรียบเทียบรุ่น
|
รุ่น |
บทบาทของมนุษย์ |
ควรใช้เมื่อใด |
ตัวอย่างในด้านการปฏิบัติการรักษาความปลอดภัย |
|
มนุษย์ในวง |
อนุมัติทุกการตัดสินใจก่อนดำเนินการ |
การกระทำที่มีความเสี่ยงสูงและมีผลกระทบร้ายแรง |
การบล็อก IP ของเซิร์ฟเวอร์ที่ใช้งานจริงซึ่งถูกระบุว่าถูกบุกรุก |
|
มนุษย์บนวงจร |
ตรวจสอบการทำงานของ AI และเข้าแทรกแซงเมื่อจำเป็น |
การดำเนินงานที่มีความเสี่ยงปานกลางและปริมาณมาก |
ตรวจสอบการดำเนินการกักกันอัตโนมัติแบบเป็นชุด |
|
มนุษย์ผ่านวงจร |
กำหนดนโยบายและทบทวนผลลัพธ์โดยรวม |
ระบบอัตโนมัติที่มีความเสี่ยงต่ำและเข้าใจง่าย |
การกำหนดกฎเกณฑ์สำหรับการลบอีเมลฟิชชิ่งอัตโนมัติ |
การเลือกรุ่นที่เหมาะสม
การขยายขอบเขตการมีส่วนร่วมของมนุษย์โดยปราศจากอุปสรรค
- การคัดกรองตามความเสี่ยง: เฉพาะกรณีที่การตัดสินใจมีความเสี่ยงเกินเกณฑ์ที่กำหนดไว้เท่านั้น ควรส่งต่อให้ผู้ตรวจสอบที่เป็นมนุษย์พิจารณา
- การเสริมบริบท: นำเสนอหลักฐานที่สัมพันธ์กัน บริบททางประวัติศาสตร์ และการดำเนินการที่แนะนำแก่นักวิเคราะห์ เพื่อให้การตัดสินใจใช้เวลาเพียงไม่กี่วินาที แทนที่จะเป็นหลายนาที
- การใช้ระบบอัตโนมัติสำหรับงานที่มีความเสี่ยงต่ำ: ควรสงวนความสนใจของมนุษย์ไว้สำหรับการตัดสินใจที่การตัดสินใจนั้นมีความสำคัญอย่างแท้จริง
- การตรวจสอบแบบไม่พร้อมกัน: อนุญาตให้ดำเนินการอัตโนมัติบางอย่างได้ โดยต้องมีการตรวจสอบหลังการดำเนินการภายในกรอบเวลาที่กำหนด
มนุษย์เสริมพลังอัตโนมัติ SOC: ที่ซึ่งปัญญาประดิษฐ์และความเชี่ยวชาญของมนุษย์ทำงานร่วมกัน
การกำกับดูแลโดยมนุษย์ไม่ได้ลดทอนคุณค่าของการปฏิบัติการรักษาความปลอดภัยแบบอัตโนมัติ แต่กลับช่วยให้องค์กรสามารถบรรลุศักยภาพสูงสุดได้ แทนที่จะเข้ามาแทนที่นักวิเคราะห์ความปลอดภัย ศูนย์ปฏิบัติการรักษาความปลอดภัยที่มีประสิทธิภาพสูงสุด (SOCส) ใช้ระบบอัตโนมัติเสริมด้วยมนุษย์ SOC รูปแบบดังกล่าวใช้ AI ในการจัดการความเร็ว ขนาด และการวิเคราะห์ซ้ำๆ ในขณะที่นักวิเคราะห์ผู้มีประสบการณ์จะให้การตัดสินใจตามบริบท การตรวจสอบความถูกต้อง และการตัดสินใจเชิงกลยุทธ์
ในโมเดลนี้ AI จะทำการเชื่อมโยงข้อมูลการวัดระยะทางอย่างต่อเนื่อง จัดลำดับความสำคัญของเหตุการณ์ แนะนำการดำเนินการตอบสนอง และดำเนินการแก้ไขปัญหาประจำวันโดยอัตโนมัติ นักวิเคราะห์ที่เป็นมนุษย์จะมุ่งเน้นไปที่งานที่มีมูลค่าสูงกว่า เช่น การตรวจสอบการโจมตีที่ซับซ้อน การตรวจสอบความถูกต้องของการตัดสินใจอัตโนมัติที่มีผลกระทบสูง การปรับปรุงตรรกะการตรวจจับ และการปรับนโยบายความปลอดภัยให้เข้ากับการเปลี่ยนแปลงของความเสี่ยงทางธุรกิจ ผลลัพธ์ที่ได้คือการดำเนินงานด้านความปลอดภัยที่ผสมผสานประสิทธิภาพของเครื่องจักรเข้ากับการใช้เหตุผลของมนุษย์ ช่วยลดความเหนื่อยล้าของนักวิเคราะห์ ในขณะเดียวกันก็ปรับปรุงความแม่นยำในการตรวจจับและรักษาความรับผิดชอบไว้ได้
แนวทางที่สมดุลนี้สอดคล้องอย่างใกล้ชิดกับหลักการของ AI ที่มีความรับผิดชอบและข้อกำหนดด้านการกำกับดูแลที่กล่าวถึงตลอดบทความนี้ แทนที่จะมองว่าระบบอัตโนมัติและการกำกับดูแลโดยมนุษย์เป็นสิ่งที่มีลำดับความสำคัญขัดแย้งกัน องค์กรควรปฏิบัติต่อทั้งสองอย่างในฐานะความสามารถที่เสริมซึ่งกันและกันและส่งเสริมซึ่งกันและกัน
การตีความมาตรา 14 ของกฎหมาย AI ของสหภาพยุโรปสำหรับระบบ AI ที่มีความเสี่ยงสูง
ข้อกำหนดสำคัญภายใต้มาตรา 14
- ความเข้าใจง่าย: ระบบ AI ต้องได้รับการออกแบบเพื่อให้ผู้ดูแลระบบสามารถเข้าใจความสามารถและข้อจำกัดของระบบได้อย่างเหมาะสม
- ความสามารถในการตีความผลลัพธ์: ผู้ควบคุมดูแลต้องสามารถตีความผลลัพธ์ของระบบ AI ได้อย่างถูกต้อง รวมถึงเข้าใจระดับความเชื่อมั่น ขอบเขตความคลาดเคลื่อน และรูปแบบความล้มเหลวที่ทราบแล้ว
- ความสามารถในการยกเลิกหรือหยุดการทำงาน: ผู้ควบคุมดูแลที่เป็นมนุษย์ต้องมีความสามารถทางเทคนิคในการแก้ไขการตัดสินใจอัตโนมัติหรือปิดระบบทั้งหมดได้
- การตระหนักถึงอคติจากการใช้ระบบอัตโนมัติ: องค์กรต่างๆ ต้องดำเนินมาตรการเพื่อป้องกันการพึ่งพาผลลัพธ์จาก AI มากเกินไป โดยเฉพาะอย่างยิ่งเมื่อผลลัพธ์เหล่านั้นเป็นข้อมูลประกอบการตัดสินใจเกี่ยวกับบุคคล
ผลกระทบในทางปฏิบัติสำหรับทีมรักษาความปลอดภัย
นอกเหนือจากสหภาพยุโรป: การบรรจบกันของกฎระเบียบระดับโลก
การบรรลุความรับผิดชอบที่แท้จริงใน AI ด้วยการแทรกแซงของมนุษย์
ความรับผิดชอบในการปฏิบัติการรักษาความปลอดภัยที่ขับเคลื่อนด้วย AIหมายความว่าทุกการกระทำที่มีผลกระทบ ไม่ว่าจะเป็นแบบอัตโนมัติหรือริเริ่มโดยมนุษย์ สามารถตรวจสอบย้อนกลับไปยังผู้รับผิดชอบได้ หากปราศจากการแทรกแซงของมนุษย์ในจุดสำคัญ ความสามารถในการตรวจสอบย้อนกลับนี้ก็จะล้มเหลว
ห่วงโซ่ความรับผิดชอบ
- นักพัฒนาโมเดล มีหน้าที่รับผิดชอบต่อความถูกต้อง ความเป็นธรรม และข้อจำกัดที่ได้รับการบันทึกไว้ของแบบจำลอง AI
- ผู้ให้บริการแพลตฟอร์ม มีหน้าที่รับผิดชอบในการกำหนดค่า ปรับแต่ง และตรวจสอบความถูกต้องอย่างต่อเนื่องของระบบ AI ภายในสภาพแวดล้อมของตน
- นักวิเคราะห์ด้านความปลอดภัย พวกเขามีความรับผิดชอบต่อคุณภาพของการตรวจสอบ ความทันท่วงทีของการแทรกแซง และเหตุผลเบื้องหลังการตัดสินใจแก้ไขของตน
- ความเป็นผู้นำด้านความปลอดภัย มีหน้าที่รับผิดชอบในการกำหนดนโยบายที่ระบุว่าเมื่อใดและอย่างไรจึงจะสามารถใช้การกำกับดูแลโดยมนุษย์ได้
จัดทำเอกสารเกี่ยวกับการตัดสินใจเพื่อเตรียมพร้อมสำหรับการตรวจสอบบัญชี
การหลีกเลี่ยงการกระจายความรับผิดชอบ
แนวปฏิบัติที่ดีที่สุดสำหรับการสร้างระบบการกำกับดูแลโดยบุคลากรในองค์กรของคุณ
กำหนดเกณฑ์การยกระดับที่ชัดเจน
- ความรุนแรงของผลกระทบ: การกระทำที่ส่งผลกระทบต่อระบบการผลิต ข้อมูลลูกค้า หรือโครงสร้างพื้นฐานที่สำคัญ จำเป็นต้องได้รับการตรวจสอบอย่างเข้มงวดมากขึ้น
- คะแนนความเชื่อมั่น: การตรวจจับที่มีความน่าเชื่อถือต่ำควรส่งต่อให้ผู้เชี่ยวชาญวิเคราะห์ ในขณะที่การตรวจจับที่มีความน่าเชื่อถือสูงและมีขั้นตอนการตอบสนองที่เข้าใจได้ดี อาจดำเนินการโดยมีการกำกับดูแลที่น้อยกว่า
- ความแปลกใหม่: รูปแบบการโจมตีที่ไม่เคยพบมาก่อนหรือความผิดปกติที่อยู่นอกเหนือการกระจายการฝึกฝนของแบบจำลอง AI จำเป็นต้องได้รับการตรวจสอบโดยมนุษย์
ลงทุนในการฝึกอบรมนักวิเคราะห์
นำกระบวนการตรวจสอบแบบหลายระดับมาใช้
|
ชั้น |
ประเภทการดำเนินการ |
ระดับการกำกับดูแล |
กำหนดเวลาการตรวจสอบ |
|
1 |
การแจ้งเตือนข้อมูล การเพิ่มความสมบูรณ์ของบันทึก |
ทำงานอัตโนมัติด้วยการสุ่มตัวอย่างเป็นระยะ |
การตรวจสอบล็อตรายสัปดาห์ |
|
2 |
การแยกอุปกรณ์ปลายทาง การระงับบัญชี |
มนุษย์ในวงจร |
ภายใน 30 นาที |
|
3 |
การแบ่งส่วนเครือข่าย การปิดบริการ |
การมีส่วนร่วมของมนุษย์ (การอนุมัติล่วงหน้า) |
ก่อนการดำเนินการ |
ใช้ประโยชน์จากความสามารถของแพลตฟอร์ม
การรับมือกับความท้าทายทั่วไปในการนำระบบการกำกับดูแลมนุษย์ไปใช้
ความเหนื่อยล้าจากการแจ้งเตือนและอคติจากการทำงานอัตโนมัติ
ช่องว่างด้านทักษะและข้อจำกัดด้านทรัพยากร
- ฝึกอบรมผู้เชี่ยวชาญด้านความปลอดภัยข้ามสายงานเกี่ยวกับพื้นฐานของ AI และพฤติกรรมของแบบจำลอง
- การให้บริบทด้านความปลอดภัยแก่เหล่าวิศวกร AI เพื่อให้พวกเขาสามารถสร้างระบบที่เข้าใจง่ายยิ่งขึ้น
- การใช้แพลตฟอร์มที่ลดความซับซ้อนและนำเสนอเหตุผลของ AI ในรูปแบบที่เข้าถึงได้ง่าย
ปรับสมดุลความเร็วและความทั่วถึง
การต่อต้านขององค์กร
การบูรณาการการกำกับดูแลเข้าสู่กระบวนการบริหารจัดการ AI
ขั้นตอนการออกแบบ
ขั้นตอนการปรับใช้และการตรวจสอบความถูกต้อง
- ทดสอบความสามารถในการยกเลิกการทำงานและปิดระบบภายใต้สภาวะที่สมจริง
- ตรวจสอบว่าผลลัพธ์จาก AI มีบริบทที่เพียงพอสำหรับการตีความโดยมนุษย์
- ยืนยันว่าขั้นตอนการส่งต่อปัญหาไปยังบุคลากรที่มีคุณสมบัติเหมาะสมภายในกรอบเวลาที่ยอมรับได้
- ดำเนินการฝึกซ้อมจำลองสถานการณ์บนโต๊ะ ซึ่งจำลองสถานการณ์ที่ต้องมีการแทรกแซงจากมนุษย์
ระยะการดำเนินงาน
ขั้นตอนการทบทวนและปรับปรุง
- การดริฟท์แบบจำลอง: ความแม่นยำของระบบ AI ลดลงเมื่อเวลาผ่านไป ทำให้ต้องมีการตรวจสอบโดยมนุษย์อย่างเข้มข้นมากขึ้นหรือไม่?
- ประสิทธิภาพของกระบวนการ: กระบวนการกำกับดูแลกำลังสร้างความล่าช้าโดยไม่จำเป็นโดยไม่ลดความเสี่ยงลงอย่างเหมาะสมหรือไม่?
- การเปลี่ยนแปลงกฎระเบียบ: ข้อกำหนดด้านการปฏิบัติตามกฎระเบียบใหม่ได้เปลี่ยนแปลงมาตรฐานขั้นต่ำสำหรับการมีส่วนร่วมของมนุษย์หรือไม่?
- การนำข้อเสนอแนะไปปรับใช้: มีการนำการแก้ไขและการปรับเปลี่ยนความคิดเห็นของนักวิเคราะห์ไปใช้ในการฝึกอบรมโมเดลอย่างเป็นระบบหรือไม่?