- ทำไม SOC ทีมต่างๆ กำลังหันมาใช้ AI ที่เป็นตัวแทน
- เหตุใดระบบอัตโนมัติ SOAR แบบดั้งเดิมจึงประสบปัญหา
- ภัยคุกคามด้านความปลอดภัยของ AI ที่แท้จริง SOC สภาพแวดล้อม
- ข้อโต้แย้งสำหรับระบบอัตโนมัติที่เสริมด้วยมนุษย์
- ข้อกำหนดทางสถาปัตยกรรมสำหรับระบบรักษาความปลอดภัยของเอเจนติก SOC
- อะไรคือสิ่งที่แสดงถึงความเป็นผู้ใหญ่ SOC แพลตฟอร์มต่างๆ จะมีหน้าตาเป็นอย่างไรในปี 2027
ความปลอดภัยของ AI อัตโนมัติ: วิธีการใช้งาน AI อัตโนมัติอย่างปลอดภัยในระบบของคุณ SOC
ความปลอดภัยของปัญญาประดิษฐ์เชิงตัวแทนได้กลายเป็นความท้าทายที่สำคัญที่สุด SOC ทีมต่างๆ นำระบบเวิร์กโฟลว์แบบอัตโนมัติมาใช้ การใช้งานเอเจนต์ที่วางแผน ตรวจสอบ และดำเนินการโดยไม่ต้องมีการชี้นำจากมนุษย์อย่างต่อเนื่อง จะช่วยเพิ่มประสิทธิภาพการดำเนินงานได้อย่างแท้จริง แต่ก็ทำให้เกิดปัญหาขึ้นด้วยเช่นกัน ความท้าทายด้านความปลอดภัยของ AI ตัวแทน ซึ่งกรอบการทำงานแบบดั้งเดิมไม่ได้ถูกสร้างมาเพื่อแก้ไขปัญหาเหล่านี้ การวางโครงสร้างสถาปัตยกรรมให้ถูกต้องจึงเป็นเรื่องสำคัญ
- ประเด็นที่สำคัญ:
-
อะไรคือแรงขับเคลื่อน SOC ทีมต่างๆ กำลังมุ่งสู่ปัญญาประดิษฐ์เชิงตัวแทนหรือไม่?
ปริมาณการแจ้งเตือนมีมากกว่ากำลังคนที่จะตรวจสอบได้ ระบบ AI ของ Agentic ช่วยให้ทีมรักษาความปลอดภัยสามารถทำการตรวจสอบหลายขั้นตอนโดยอัตโนมัติ เชื่อมโยงสัญญาณจากแหล่งข้อมูลต่างๆ พร้อมกันได้ และลดเวลาเฉลี่ยในการตอบสนองโดยไม่ต้องเพิ่มจำนวนพนักงานตามสัดส่วน -
เหตุใด SOAR แบบดั้งเดิมจึงไม่สามารถรับมือกับสภาพแวดล้อมภัยคุกคามที่เปลี่ยนแปลงตลอดเวลาได้?
แผนปฏิบัติการ SOAR ขึ้นอยู่กับตรรกะที่กำหนดไว้ล่วงหน้า เมื่อสถานการณ์ภัยคุกคามเบี่ยงเบนไปจากรูปแบบที่คาดไว้ แผนปฏิบัติการเหล่านั้นก็จะหยุดชะงัก ปัญญาประดิษฐ์เชิงตัวแทน (Agentic AI) ใช้การให้เหตุผลตามบริบทแทนที่จะใช้กฎคงที่ ซึ่งหมายความว่ามันจะปรับตัวได้ในจุดที่ SOAR ล้มเหลว -
ภัยคุกคามด้านความปลอดภัยของ AI ที่เป็นอันตรายที่สุดในปัจจุบันมีอะไรบ้าง SOC การดำเนินงาน
การโจมตีแบบฉีดข้อมูลเข้าเป้าหมายอย่างรวดเร็วในกระบวนการคัดกรองข้อมูล การใช้เครื่องมือและ API ในทางที่ผิด และวงจรความเชื่อมั่นที่ผิดพลาดซึ่งตัวแทนดำเนินการอย่างเด็ดขาดต่อข้อมูลป้อนเข้าที่เสียหาย ถือเป็นภัยคุกคามด้านความปลอดภัยหลักของ AI ที่เกี่ยวข้องกับตัวแทน SOC ทีมจำเป็นต้องวางแผนโดยคำนึงถึงสิ่งเหล่านั้น -
ระบบอัตโนมัติที่เสริมด้วยมนุษย์จะช่วยรับมือกับความท้าทายด้านความปลอดภัยของ AI ที่มีบทบาทเฉพาะได้อย่างไร?
ระบบอัตโนมัติแบบควบคุมดูแลจะมอบหมายตัวแทนให้กับงานประจำที่มีปริมาณมาก ในขณะที่ส่งการตัดสินใจที่มีผลกระทบสูงผ่านการตรวจสอบจากนักวิเคราะห์ การให้คะแนนความมั่นใจจะกำหนดว่าเมื่อใดที่ตัวแทนจะดำเนินการต่อ และเมื่อใดที่ควรส่งต่อไปยังระดับที่สูงขึ้น ซึ่งจะช่วยลดขอบเขตความเสียหายจากจุดอ่อนเพียงจุดเดียว -
ต้องใช้สิ่งใดบ้างจึงจะสามารถรักษาความปลอดภัยของระบบ AI ที่ทำหน้าที่เสมือนตัวแทนได้อย่างแท้จริงในระดับสถาปัตยกรรม?
ระบบส่งข้อมูลทางไกลแบบรวมศูนย์ Open XDRและ NG- ที่บูรณาการSIEMเอ็นดีอาร์ UEBA, ITDRและเลเยอร์ CDR ช่วยให้เจ้าหน้าที่มองเห็นภาพรวมทั้งหมดที่จำเป็นต่อการวิเคราะห์อย่างแม่นยำ การทำให้ API เป็นมาตรฐานและการทำงานอัตโนมัติที่คำนึงถึงตัวตนช่วยป้องกันไม่ให้เจ้าหน้าที่ทำงานข้ามขอบเขตความไว้วางใจที่ไม่ควรข้าม -
แซนด์บ็อกซ์เหมาะสมกับระบบเอเจนต์ที่ปลอดภัยอย่างไร SOC?
การใช้แซนด์บ็อกซ์จะจำกัดการทำงานของเอเจนต์ให้อยู่ในสภาพแวดล้อมที่ควบคุมได้ โดยใช้เครื่องมือและแหล่งข้อมูลที่ได้รับอนุญาตเท่านั้น ซึ่งจะช่วยจำกัดความเสียหายที่เอเจนต์ที่ถูกดัดแปลงสามารถก่อให้เกิดได้ ทำให้เป็นหนึ่งในวิธีการควบคุมที่ใช้งานได้จริงที่สุดสำหรับการจัดการความท้าทายด้านความปลอดภัยของ AI เอเจนต์ในระหว่างการทำงาน -
อะไรจะทำให้ตัวแทนเติบโตเต็มที่ SOC แพลตฟอร์มจะพร้อมใช้งานภายในปี 2027 หรือไม่?
การสืบสวนอัตโนมัติแบบครบวงจร ตั้งแต่การแจ้งเตือนไปจนถึงการควบคุม โดยอยู่ภายใต้การกำกับดูแลของโปรโตคอลระบุตัวตนของเอเจนต์ที่เป็นมาตรฐาน การทดสอบเจาะระบบอย่างต่อเนื่องสำหรับเวิร์กโฟลว์ของเอเจนต์ และการตรวจสอบการทำงานแบบเรียลไทม์ที่สร้างขึ้นเพื่อตอบสนองข้อกำหนดด้านกฎระเบียบที่เกิดขึ้นใหม่สำหรับการกำกับดูแล AI
AI และการเรียนรู้ของเครื่องช่วยปรับปรุงความปลอดภัยทางไซเบอร์ขององค์กรได้อย่างไร
เชื่อมโยงทุกจุดในภูมิทัศน์ภัยคุกคามที่ซับซ้อน
สัมผัสประสบการณ์การรักษาความปลอดภัยที่ขับเคลื่อนด้วย AI ในการดำเนินการ!
ค้นพบ AI อันล้ำสมัยของ Stellar Cyber เพื่อการตรวจจับและตอบสนองภัยคุกคามในทันที กำหนดเวลาการสาธิตของคุณวันนี้!
ทำไม SOC ทีมต่างๆ กำลังหันมาใช้ AI ที่เป็นตัวแทน
ความกดดันต่อ SOC ทีมงานได้เปลี่ยนจากการจัดการความซับซ้อนไปเป็นการจัดการขนาด ปริมาณการแจ้งเตือนเพิ่มขึ้นเร็วกว่ารอบการจ้างงาน คิวการตรวจสอบยาวขึ้น และ MTTR กลายเป็นตัวชี้วัดในห้องประชุมมากกว่าเป็นเพียงรายละเอียดปลีกย่อยในการดำเนินงาน
เมื่อปริมาณการแจ้งเตือนกลายเป็นปัญหาเชิงโครงสร้าง
สภาพแวดล้อมขององค์กรสมัยใหม่สร้างข้อมูลด้านความปลอดภัยมากกว่าที่ทีมวิเคราะห์ใดๆ จะสามารถประมวลผลได้ด้วยตนเอง อัตราส่วนของสัญญาณต่อความสนใจที่มีอยู่ได้เปลี่ยนแปลงไปอย่างสิ้นเชิง และนักวิเคราะห์ในองค์กรส่วนใหญ่ใช้เวลาทำงานส่วนใหญ่ไปกับการคัดกรองการแจ้งเตือนที่กลายเป็นเพียงสัญญาณรบกวน ทำให้ภัยคุกคามที่แท้จริงต้องรออยู่ในคิวนานกว่าที่โปรแกรมรักษาความปลอดภัยใดๆ จะทนได้
เป็นเวลาหลายปีแล้วที่วิธีการรับมือมาตรฐานคือการเพิ่มเครื่องมือ: เพิ่มกฎการตรวจจับมากขึ้น ข้อมูลเพิ่มเติม SIEM การสอบถามข้อมูล ตรรกะความสัมพันธ์เพิ่มเติม การเพิ่มกฎเกณฑ์ต่างๆ เข้าไปในเวิร์กโฟลว์ที่อิ่มตัวอยู่แล้วนั้นยิ่งทำให้ปัญหารุนแรงขึ้น เพราะตรรกะการตรวจจับที่มากขึ้นจะทำให้เกิดการแจ้งเตือนมากขึ้น ซึ่งจะวนเวียนอยู่ในวงจรเดิมซ้ำแล้วซ้ำเล่า
อะไรทำให้ AI ที่มีตัวแทนแตกต่างออกไป
ปัญญาประดิษฐ์แบบดั้งเดิมช่วยเสริมการทำงานเฉพาะด้าน เช่น สรุปการแจ้งเตือน ประเมินความเสี่ยง หรือแนะนำแนวทางการตอบสนอง เอเจนต์เอไอ ดำเนินการตรวจสอบด้วยตนเอง ตัวแทนอัตโนมัติที่ได้รับมอบหมายให้แจ้งเตือนการหลอกลวงจะสอบถามข้อมูลจาก SIEM สำหรับกิจกรรมที่เกี่ยวข้อง ให้ดึงข้อมูล telemetry จากอุปกรณ์ปลายทาง ตรวจสอบฟีดข่าวกรองภัยคุกคาม ประเมินตัวบ่งชี้การเคลื่อนไหวในแนวนอน และสร้างข้อสรุปที่เป็นระบบภายในเวลาที่นักวิเคราะห์ใช้ในการเปิดคอนโซลแรก
ระบบอัตโนมัติไม่รอคำสั่งที่ชัดเจนในทุกขั้นตอน พวกมันใช้เหตุผลเพื่อบรรลุเป้าหมาย ปรับตัวเมื่อผลการค้นพบระหว่างทางเปลี่ยนแปลงไป และส่งต่อให้ผู้เชี่ยวชาญวิเคราะห์ข้อมูลโดยมีบริบทที่รวบรวมไว้แล้ว ความสามารถของผู้เชี่ยวชาญวิเคราะห์ข้อมูลจะถูกเปลี่ยนเส้นทางไปสู่การตัดสินใจที่ต้องอาศัยวิจารณญาณของมนุษย์อย่างแท้จริง แทนที่จะเป็นการรวบรวมข้อมูลที่เครื่องจักรสามารถดึงมาได้เร็วกว่า นี่เป็นการเปลี่ยนแปลงที่แท้จริงในวิธีการทำงานด้านความปลอดภัย ซึ่งเปลี่ยนบทบาทของผู้เชี่ยวชาญวิเคราะห์ข้อมูลจากผู้สืบสวนหลักไปเป็นผู้ตัดสินใจ
ความสำคัญของการนำไปปฏิบัติอย่างถูกต้อง
แรงกดดันในการใช้งานเป็นเรื่องจริง และมันผลักดันให้ทีมต่างๆ มุ่งเน้นไปที่ความเร็วมากกว่าโครงสร้าง ตัวแทนอัตโนมัติที่มีสิทธิ์เข้าถึงเครื่องมือมากมายและการกำกับดูแลที่ไม่เพียงพอจะเพิ่มช่องโหว่ด้านความปลอดภัยควบคู่ไปกับประสิทธิภาพ องค์กรที่นำ AI แบบตัวแทนไปใช้งานได้อย่างดี จะถือว่านี่เป็นการตัดสินใจด้านสถาปัตยกรรมตั้งแต่วันแรก ความปลอดภัยของ AI แบบตัวแทนเป็นรากฐานที่โมเดลการดำเนินงานทั้งหมดขึ้นอยู่กับ
เหตุใดระบบอัตโนมัติ SOAR แบบดั้งเดิมจึงประสบปัญหา
SOAR นับเป็นก้าวสำคัญอย่างแท้จริง: การตอบสนองที่ไม่ต้องให้นักวิเคราะห์คัดลอกตัวบ่งชี้ข้ามคอนโซลด้วยตนเอง และแผนปฏิบัติการที่สามารถแยกปลายทางหรือปิดใช้งานบัญชีได้โดยไม่ต้องมีการแทรกแซงจากมนุษย์ในแต่ละขั้นตอน สถาปัตยกรรมนี้เหมาะสมกับสภาพแวดล้อมที่สร้างขึ้นมา ปัญหาคือ สภาพแวดล้อมด้านภัยคุกคามเปลี่ยนแปลงเร็วกว่าที่สถาปัตยกรรมจะตามทัน
เมื่อแผนการเล่นพังทลายลงภายใต้ความกดดัน
แผนการรับมือ SOAR เปรียบเสมือนแผนผังการตัดสินใจที่มีกิ่งก้านสาขาคงที่ เมื่อเหตุการณ์เกิดขึ้นและตรงกับรูปแบบที่ทราบ แผนการรับมือก็จะทำงานได้ แต่เมื่อผู้โจมตีเบี่ยงเบนจากรูปแบบนั้น โดยใช้เครื่องมือที่ถูกต้องตามกฎหมายอย่างไม่คาดคิด เคลื่อนที่ไปตามเส้นทางที่แผนการรับมือไม่ได้คำนึงถึง หรือผสมผสานกลยุทธ์ที่ข้ามโดเมนการตรวจจับ แผนการรับมือก็จะหยุดชะงักหรือเลือกกิ่งก้านสาขาที่ผิด ทีมรักษาความปลอดภัยจึงต้องเผชิญกับปัญหา ตอบกลับอัตโนมัติ ซึ่งเป็นการแก้ไขปัญหาที่ไม่ถูกต้อง หรือมีการแจ้งเตือนที่ถูกส่งกลับไปยังคิวการตรวจสอบด้วยตนเอง ซึ่งเป็นสิ่งที่คู่มือควรจะกำจัดออกไป การแจ้งเตือนยังคงได้รับการตรวจสอบ แต่ตอนนี้มีความล่าช้าเพิ่มขึ้นและความเชื่อมั่นในระบบอัตโนมัติลดลง
ภาระการปรับแต่งที่ไม่เคยแก้ไขได้
การทำให้ Playbook ของ SOAR ทันสมัยอยู่เสมอเป็นความพยายามทางด้านวิศวกรรมอย่างต่อเนื่อง กฎการตรวจจับใหม่ทุกข้อ แหล่งข้อมูลใหม่ทุกแหล่ง และการเปลี่ยนแปลงโครงสร้างพื้นฐานทุกครั้ง อาจต้องมีการอัปเดต Playbook ในสภาพแวดล้อมที่เปลี่ยนแปลงอย่างรวดเร็ว งานซ่อมบำรุงที่ค้างอยู่จะเพิ่มขึ้นเร็วกว่าที่ทีมวิศวกรรมด้านความปลอดภัยจะจัดการได้ ผลที่ได้คือคลัง Playbook ที่มีสัดส่วนเพิ่มขึ้นเรื่อยๆ ที่ล้าสมัยบางส่วน และนักวิเคราะห์ได้เรียนรู้ที่จะไม่ไว้วางใจระบบอัตโนมัติมากพอที่จะตรวจสอบผลลัพธ์ซ้ำด้วยตนเอง ซึ่งทำให้จุดประสงค์ของ Playbook นั้นเสียไป Playbook ที่ออกแบบมาเพื่อประหยัดเวลาของนักวิเคราะห์กลับสร้างเวิร์กโฟลว์การตรวจสอบแบบคู่ขนานขึ้นมา
ช่องว่างทางบริบทที่ SOAR ไม่ได้ถูกออกแบบมาเพื่อเติมเต็มตั้งแต่แรก
ข้อจำกัดที่สำคัญกว่านั้นคือข้อจำกัดเชิงโครงสร้าง SOAR ประมวลผลการแจ้งเตือนตามลำดับและใช้ตรรกะที่เขียนไว้ก่อนเกิดเหตุการณ์ มันไม่มีกลไกในการสังเคราะห์บริบทจากแหล่งข้อมูลต่างๆ แบบเรียลไทม์ ไม่มีวิธีชั่งน้ำหนักความสำคัญของสิ่งที่ค้นพบหนึ่งอย่างเทียบกับอีกอย่าง และไม่มีความสามารถในการปรับวิธีการตามสิ่งที่ค้นพบระหว่างการสืบสวน ความท้าทายด้านความปลอดภัยของ AI อัตโนมัติทุกรูปแบบที่เกี่ยวข้องกับกิจกรรมที่ไม่ชัดเจน หลายขั้นตอน หรือข้ามโดเมน จะเผยให้เห็นช่องว่างนี้อย่างชัดเจน AI อัตโนมัติปิดช่องว่างนี้โดยการแทนที่การปฏิบัติตามกฎด้วยการใช้เหตุผล ตัวแทนอิสระจะประเมินสิ่งที่ค้นพบในแต่ละขั้นตอน ปรับเส้นทางการสืบสวนตามนั้น และสร้างคำตัดสินที่สะท้อนถึงสถานะที่แท้จริงของเหตุการณ์ ระบบ AI อัตโนมัติที่ปลอดภัยทำให้การเปลี่ยนแปลงการดำเนินงานนั้นเป็นไปได้ และสถาปัตยกรรมโดยรอบจะเป็นตัวกำหนดว่ามันจะสามารถใช้งานได้จริงในสภาพแวดล้อมจริงหรือไม่
ภัยคุกคามด้านความปลอดภัยของ AI ที่แท้จริง SOC สภาพแวดล้อม
ภัยคุกคามด้านความปลอดภัยของ AI เชิงตัวแทนใน SOC สิ่งเหล่านี้ไม่ใช่ข้อกังวลเชิงทฤษฎีที่นำมาจากงานวิจัย แต่เกิดขึ้นโดยตรงจากแบบจำลองการปฏิบัติงาน: ตัวแทนที่มีสิทธิ์เข้าถึงเครื่องมืออย่างกว้างขวาง อำนาจในการตัดสินใจแบบเรียลไทม์ และการเชื่อมต่อกับโครงสร้างพื้นฐานด้านความปลอดภัยในการผลิต การทำความเข้าใจสิ่งเหล่านี้เป็นสิ่งจำเป็นเบื้องต้นสำหรับการออกแบบการใช้งานที่สามารถรับมือกับแรงกดดันจากฝ่ายตรงข้ามได้
เวิร์กโฟลว์การคัดกรองเป้าหมายการฉีดแบบทันที
การฉีดข้อมูลแบบทันทีทันใดเป็นหนึ่งในภัยคุกคามด้านความปลอดภัยของ AI ที่ได้รับการบันทึกไว้อย่างละเอียดที่สุด และใน SOC ในสภาพแวดล้อมเช่นนี้ การโจมตีจะมีรูปแบบที่เฉพาะเจาะจงและส่งผลกระทบอย่างมาก เมื่อเจ้าหน้าที่ประมวลผลอีเมลฟิชชิงขาเข้า เอกสารที่น่าสงสัย หรือการแจ้งเตือนที่มีเนื้อหาที่ผู้โจมตีควบคุม เนื้อหานั้นอาจมีคำสั่งฝังตัวอยู่ซึ่งออกแบบมาเพื่อเปลี่ยนแปลงพฤติกรรมของเจ้าหน้าที่ การแทรกโค้ดที่ออกแบบมาอย่างดีจะกลมกลืนไปกับข้อมูลที่เจ้าหน้าที่ต้องอ่านและดำเนินการอยู่แล้ว เจ้าหน้าที่ที่ถูกควบคุมผ่านการแทรกโค้ดในขั้นตอนการคัดกรองอาจส่งต่อข้อมูลเคสที่ละเอียดอ่อนไปยังที่อยู่ภายนอก ระงับการยกระดับ หรือเรียกใช้เครื่องมือที่ผู้โจมตีตั้งใจไว้ แทนที่จะเป็นสิ่งที่นักวิเคราะห์คาดหวัง ความเสี่ยงจะเพิ่มขึ้นในสภาพแวดล้อมที่เจ้าหน้าที่จัดการกับการแจ้งเตือนจำนวนมากโดยมีการตรวจสอบโดยมนุษย์ต่อรายการน้อยมาก
การใช้เครื่องมือในทางที่ผิดและการดัดแปลง API
เอเจนต์อัตโนมัติโต้ตอบกับเครื่องมือภายนอกและ API เป็นส่วนสำคัญของการทำงาน ผู้โจมตีสามารถใช้ประโยชน์จากจุดนี้ได้โดยการจัดการเอาต์พุตของเครื่องมือ การแทรกเพย์โหลดผ่านการตอบสนองของ API หรือการสร้างเงื่อนไขที่ทำให้เอเจนต์เรียกใช้ปลายทางที่ไม่ต้องการ เอเจนต์ที่เชื่อถือเอาต์พุตของเครื่องมือโดยไม่ตรวจสอบความถูกต้อง จะกลายเป็นตัวกลางในการดำเนินการคำสั่งที่มาจากภายนอกระบบรักษาความปลอดภัย SOC ในสภาพแวดล้อมที่เอเจนต์ดึงข้อมูลจากแหล่งข้อมูลข่าวกรองภัยคุกคาม แพลตฟอร์ม EDR และผู้ให้บริการระบุตัวตนเป็นประจำ เลเยอร์การบูรณาการเครื่องมือถือเป็นความท้าทายด้านความปลอดภัยของ AI สำหรับเอเจนต์อย่างมีนัยสำคัญ ซึ่งจำเป็นต้องได้รับการพิจารณาอย่างชัดเจนในระหว่างการวางแผนการใช้งาน
การเคลื่อนที่ด้านข้างแบบอิสระระหว่างเอเจนต์
ในสถาปัตยกรรมแบบหลายเอเจนต์ ซึ่งเอเจนต์เฉพาะทางทำงานร่วมกันในแต่ละขั้นตอนของการตรวจสอบ เอเจนต์ที่ถูกบุกรุกสามารถส่งผลกระทบต่อเอเจนต์ในขั้นตอนถัดไปได้ คำสั่งที่ส่งต่อระหว่างเอเจนต์นั้นแฝงไปด้วยความไว้วางใจ และผู้โจมตีที่ควบคุมโหนดหนึ่งในเวิร์กโฟลว์สามารถใช้ตำแหน่งนั้นเพื่อเปลี่ยนทิศทางพฤติกรรมของโหนดอื่นได้ การเคลื่อนย้ายข้ามเอเจนต์จะเพิ่มผลกระทบของการบุกรุกเพียงครั้งเดียว ขยายขอบเขตการเข้าถึงของผู้โจมตีผ่านไปป์ไลน์การตรวจสอบโดยไม่กระตุ้นสัญญาณระดับปลายทางที่เครื่องมือตรวจจับแบบดั้งเดิมคอยตรวจสอบ
วงจรความเชื่อมั่นที่ผิดพลาด
เอเจนต์สามารถทำงานได้อย่างมั่นใจสูงแม้ว่าข้อมูลจะถูกเปลี่ยนแปลงไปอย่างเงียบๆ เมื่อแหล่งความรู้ที่เอเจนต์สอบถามในระหว่างการทำงานถูกแก้ไข กระบวนการให้เหตุผลของเอเจนต์ยังคงเหมือนเดิม ในขณะที่ข้อสรุปกลับผิดพลาดอย่างเป็นระบบ วงจรความมั่นใจที่ผิดพลาดนั้นตรวจจับได้ยากเป็นพิเศษ เพราะเอเจนต์แสดงพฤติกรรมปกติในทุกๆ ด้านที่สังเกตได้ สัญญาณเดียวคือคุณภาพของผลลัพธ์ ซึ่งจำเป็นต้องมีการตรวจสอบอย่างต่อเนื่องมากกว่าการแจ้งเตือนแบบแฝง
การใช้ Sandboxing ช่วยจัดการกับความเสี่ยงเหล่านี้ได้อย่างไร
การใช้แซนด์บ็อกซ์ช่วยจำกัดสิ่งที่เอเจนต์ที่ถูกบุกรุกหรือดัดแปลงสามารถทำได้ โดยการจำกัดการทำงานของเอเจนต์ให้อยู่ในสภาพแวดล้อมที่ควบคุมได้ ด้วยเครื่องมือที่อนุญาต การเข้าถึงเครือข่ายที่ถูกจำกัด และเส้นทางการส่งออกที่ได้รับการตรวจสอบแล้ว แซนด์บ็อกซ์จะเปลี่ยนภัยคุกคามที่ไร้ขอบเขตให้กลายเป็นภัยคุกคามที่มีขอบเขต ขอบเขตความเสียหายที่เอเจนต์ที่ถูกดัดแปลงสามารถก่อให้เกิดได้จะลดลงอย่างมากเมื่อสภาพแวดล้อมการทำงานถูกจำกัดอย่างเหมาะสม ในระบบเอเจนต์ที่ออกแบบมาอย่างดี SOCฟังก์ชันแซนด์บ็อกซ์ทำหน้าที่เป็นกลไกควบคุมเชิงโครงสร้างที่ถูกสร้างขึ้นในสถาปัตยกรรมตั้งแต่เริ่มต้น
ข้อโต้แย้งสำหรับระบบอัตโนมัติที่เสริมด้วยมนุษย์
ความเร็วและขนาดเป็นข้อโต้แย้งหลักสำหรับปัญญาประดิษฐ์เชิงตัวแทน (agentic AI) ในปัจจุบัน SOCตัวแทนอัตโนมัติที่สามารถแยกปลายทาง ปิดใช้งานบัญชี หรือระงับการยกระดับความรุนแรงได้นั้น ก็มีอำนาจที่จะก่อให้เกิดอันตรายร้ายแรงได้เช่นกัน หากถูกบิดเบือนหรือตั้งค่าไม่ถูกต้อง การกำหนดว่าการกระทำอัตโนมัติสิ้นสุดลงที่ใด และการตัดสินใจของมนุษย์เริ่มต้นขึ้นที่ใด คือคำถามสำคัญในด้านสถาปัตยกรรมสำหรับระบบใดๆ ก็ตาม SOC การนำ AI เชิงตัวแทนมาใช้งานในวงกว้าง
ระบบการทำงานอัตโนมัติแบบแบ่งระดับ: การจับคู่ขอบเขตการทำงานของเอเจนต์กับระดับความเสี่ยง
การใช้งานระบบอย่างมีประสิทธิภาพจะกระจายอำนาจการตัดสินใจตามระดับความเสี่ยงของแต่ละจุดตัดสินใจ เจ้าหน้าที่จะจัดการงานปริมาณมากแต่มีความเสี่ยงต่ำอย่างอิสระ เช่น การลบการแจ้งเตือนซ้ำซ้อน การเพิ่มข้อมูล IOC การให้คะแนนการคัดกรองเบื้องต้น และการรวบรวมบริบทจากข้อมูลปลายทาง เครือข่าย และข้อมูลระบุตัวตน ส่วนการตัดสินใจที่มีผลกระทบสูงกว่า เช่น การเปลี่ยนแปลงระบบการผลิต การแก้ไขบัญชี หรือการดำเนินการเพื่อควบคุมภัยคุกคามที่ส่งผลกระทบต่อการดำเนินงานทางธุรกิจ จะต้องผ่านการตรวจสอบจากนักวิเคราะห์ก่อนดำเนินการ ในส่วนของงานประจำ เจ้าหน้าที่จะประมวลผลการแจ้งเตือนหลายร้อยรายการต่อกะ โดยรวบรวมแพ็คเกจเหตุการณ์ที่ครบถ้วน ซึ่งรวมถึงเหตุการณ์ที่สัมพันธ์กัน ทรัพย์สินที่ได้รับผลกระทบ กิจกรรมของผู้ใช้ที่เกี่ยวข้อง และการแมปเทคนิค MITRE ATT&CK นักวิเคราะห์ที่อาจต้องใช้เวลาเกือบชั่วโมงในการรวบรวมบริบทเหล่านั้นด้วยตนเอง จะสามารถตรวจสอบได้ภายในไม่กี่นาที ทำให้มีเวลาว่างสำหรับการตัดสินใจในการสืบสวนจริง ระบบการตัดสินใจแบบแบ่งระดับนี้ได้ผลเพราะใช้ความเร็วของเจ้าหน้าที่ในจุดที่สำคัญที่สุด และใช้ดุลยพินิจของมนุษย์ในจุดที่เปลี่ยนแปลงผลลัพธ์ นักวิเคราะห์จะตรวจสอบการตัดสินใจที่สมควรได้รับการตรวจสอบ โดยมีแพ็คเกจการสืบสวนทั้งหมดของเจ้าหน้าที่ที่รวบรวมไว้พร้อมดำเนินการ อัตราส่วนของสัญญาณเตือนที่ต้องอาศัยการตรวจสอบจากมนุษย์ลดลงอย่างมาก และนักวิเคราะห์จะหันไปให้ความสำคัญกับการตัดสินใจที่มีผลกระทบอย่างแท้จริงมากขึ้น
การให้คะแนนความเชื่อมั่นและโครงสร้างคำตัดสิน
ตัวแทนที่ได้รับการออกแบบมาอย่างดี SOC ระบบจะสร้างผลการตัดสินที่ให้คะแนน ซึ่งสะท้อนถึงระดับความมั่นใจของเจ้าหน้าที่ หลักฐานที่สนับสนุนข้อสรุป และขั้นตอนการสืบสวนที่ใช้เพื่อให้ได้มาซึ่งข้อสรุปนั้น นักวิเคราะห์จะเห็นข้อสรุปของเจ้าหน้าที่ควบคู่ไปกับห่วงโซ่หลักฐานที่ก่อให้เกิดข้อสรุปนั้น ซึ่งช่วยให้พวกเขาสามารถตรวจสอบและดำเนินการตามข้อค้นพบที่มีพื้นฐานที่ดีได้อย่างรวดเร็ว การให้คะแนนความมั่นใจยังกำหนดขอบเขตความเป็นอิสระสำหรับการแจ้งเตือนแต่ละครั้งด้วย ผลการตัดสินที่มีความมั่นใจสูงเกี่ยวกับรูปแบบภัยคุกคามที่เข้าใจได้ดี จะดำเนินการควบคุมโดยอัตโนมัติ ผลการตัดสินที่มีความมั่นใจต่ำเกี่ยวกับกิจกรรมใหม่หรือคลุมเครือจะถูกส่งต่อไปยังระดับที่สูงขึ้นพร้อมกับบริบทการสืบสวนทั้งหมดที่แนบมาด้วย เพื่อให้นักวิเคราะห์มาถึงจุดตัดสินใจโดยมีข้อมูลรองรับแล้ว
เส้นทางการยกระดับที่มีโครงสร้าง
ในแบบจำลองที่เสริมด้วยมนุษย์ การยกระดับการตรวจสอบเป็นคุณลักษณะที่ออกแบบมาของขั้นตอนการทำงาน เจ้าหน้าที่จะยกระดับการตรวจสอบเมื่อความมั่นใจลดลงต่ำกว่าเกณฑ์ที่กำหนด เมื่อการแจ้งเตือนเกี่ยวข้องกับสินทรัพย์หรือบัญชีที่ถูกระบุว่ามีมูลค่าสูง เมื่อการดำเนินการที่ร้องขอไม่สามารถย้อนกลับได้ หรือเมื่อพฤติกรรมที่สังเกตได้เบี่ยงเบนจากเกณฑ์พื้นฐานที่กำหนดไว้ในลักษณะที่เจ้าหน้าที่ไม่ได้รับการฝึกฝนให้ตัดสิน การยกระดับการตรวจสอบที่มีประสิทธิภาพจะส่งต่อชุดข้อมูลการสืบสวนที่มีโครงสร้าง นักวิเคราะห์จะได้รับคำตัดสินของเจ้าหน้าที่ หลักฐาน การดำเนินการที่แนะนำ และข้อบ่งชี้ที่ชัดเจนว่าเหตุใดจึงมีการยกระดับการตรวจสอบ การส่งต่อที่มีโครงสร้างจะบีบอัดเวลาตั้งแต่การยกระดับการตรวจสอบไปจนถึงการตัดสินใจ ซึ่งเป็นจุดที่ผลประโยชน์จาก MTTR (เวลาเฉลี่ยในการแก้ไขปัญหา) สะสมมากขึ้นในทางปฏิบัติ
การกำกับดูแลโดยมนุษย์เป็นมาตรการควบคุมความปลอดภัยโดยตรง
กลไกการมีส่วนร่วมของมนุษย์ (Human-in-the-loop) ไม่เพียงแต่ช่วยปรับปรุงคุณภาพการตัดสินใจเท่านั้น แต่ยังทำหน้าที่เป็นกลไกควบคุมความปลอดภัยโดยตรงต่อภัยคุกคามด้านความปลอดภัยของ AI ตัวแทน (agentic AI) ที่กล่าวถึงในส่วนก่อนหน้า ผู้โจมตีที่สามารถควบคุมตัวแทนได้สำเร็จผ่านการแทรกโค้ดหรือการใช้เครื่องมือในทางที่ผิด ยังคงต้องเผชิญกับการตรวจสอบจากมนุษย์ก่อนที่จะดำเนินการใดๆ ที่ก่อให้เกิดความเสียหายร้ายแรงที่สุด ชั้นการกำกับดูแลจะเปลี่ยนการประนีประนอมที่อาจร้ายแรงให้กลายเป็นสิ่งที่ตรวจจับได้และควบคุมได้ การกำกับดูแลโดยมนุษย์ในฐานะหลักการทางสถาปัตยกรรมยังช่วยสร้างระบบ AI ตัวแทนที่มีความแม่นยำมากขึ้นเมื่อเวลาผ่านไป เมื่อนักวิเคราะห์ตรวจสอบ ปรับ หรือแก้ไขคำตัดสินของตัวแทน การตัดสินใจเหล่านั้นจะส่งผลย้อนกลับไปยังโมเดล ทำให้ความแม่นยำในการแจ้งเตือนในอนาคตดีขึ้น วงจรป้อนกลับเชื่อมโยงความเชี่ยวชาญของมนุษย์กับการเรียนรู้ของเครื่องจักรในลักษณะที่ทำให้ทั้งสองอย่างมีประสิทธิภาพมากขึ้น ระบบ AI ตัวแทนที่ปลอดภัยสร้างขึ้นบนความเข้าใจว่าการกำกับดูแลโดยมนุษย์และความสามารถในการทำงานอัตโนมัติต่างเสริมซึ่งกันและกัน แนวทางของ Stellar Cyber ในด้าน AI ตัวแทน SOC การดำเนินงานสะท้อนให้เห็นถึงสิ่งนี้ การตรวจสอบโดยนักวิเคราะห์ การยกระดับปัญหาตามคำแนะนำ และระบบอัตโนมัติภายใต้การกำกับดูแล ทำงานเป็นส่วนประกอบที่บูรณาการกันของแบบจำลองความปลอดภัยเดียวกัน โดยแต่ละส่วนช่วยเสริมความสามารถของแพลตฟอร์มในการตอบสนองอย่างแม่นยำภายใต้สภาวะที่เป็นอันตราย ความปลอดภัยของ AI ที่เป็นตัวแทนถูกฝังอยู่ในการตัดสินใจของระบบในทุกขั้นตอน
ข้อกำหนดทางสถาปัตยกรรมสำหรับระบบรักษาความปลอดภัยของเอเจนติก SOC
ความท้าทายด้านความปลอดภัยของ AI ที่ทำงานโดยอัตโนมัติซึ่งได้อธิบายไว้ในหัวข้อก่อนหน้านี้ ไม่สามารถแก้ไขได้ด้วยการตั้งค่าเพียงอย่างเดียว แต่ต้องอาศัยสถาปัตยกรรมพื้นฐานที่ออกแบบมาเพื่อรองรับการตัดสินใจโดยอัตโนมัติอย่างรวดเร็ว ในขณะเดียวกันก็ต้องรักษาการมองเห็นและการควบคุมที่ทีมรักษาความปลอดภัยต้องการเพื่อกำกับดูแลพฤติกรรมของ AI นั้นๆ แต่ละองค์ประกอบในสถาปัตยกรรมนั้นมีหน้าที่เฉพาะเจาะจงในการทำให้ระบบมีประสิทธิภาพและปลอดภัย
ระบบการวัดระยะทางแบบรวมและ Open XDR
เอージェนต์อัตโนมัติจะตัดสินใจโดยอาศัยสิ่งที่มันมองเห็น เอージェนต์ที่ทำงานจากข้อมูลการวัดระยะทางที่ไม่ครบถ้วนหรือกระจัดกระจาย จะสร้างข้อสรุปที่ไม่ครบถ้วนหรือผิดพลาด และในการปฏิบัติการด้านความปลอดภัย ข้อสรุปที่ผิดพลาดนั้นส่งผลกระทบอย่างร้ายแรง ข้อมูลการวัดระยะทางแบบครบวงจรครอบคลุมทั้งอุปกรณ์ปลายทาง เครือข่าย ข้อมูลประจำตัว คลาวด์ และแอปพลิเคชัน ช่วยให้เอージェนต์มีบริบทที่ครอบคลุมทุกด้านที่จำเป็นต่อการวิเคราะห์ภัยคุกคามที่ซับซ้อนและหลายขั้นตอนได้อย่างแม่นยำ
Open XDR ทำให้การรวบรวมข้อมูลทางไกลแบบครบวงจรเป็นไปได้โดยไม่ต้องให้องค์กรเปลี่ยนระบบรักษาความปลอดภัยที่มีอยู่เดิม เอเจนต์จะรับข้อมูลที่ได้มาตรฐานจากแพลตฟอร์ม EDR เซ็นเซอร์เครือข่าย ผู้ให้บริการข้อมูลประจำตัว และการควบคุมความปลอดภัยบนคลาวด์ที่มีอยู่แล้ว และเชื่อมโยงข้อมูลเหล่านั้นเข้ากับลำดับเหตุการณ์ที่สอดคล้องกัน ช่องว่างของข้อมูลทางไกลเป็นสาเหตุสำคัญที่ทำให้เอเจนต์ไม่สามารถให้เหตุผลได้อย่างถูกต้อง Open XDR แก้ไขปัญหาเชิงโครงสร้างนั้นโดยตรง
เลเยอร์การตรวจจับแบบรวม: NG-SIEMเอ็นดีอาร์ UEBA, ITDRและ CDR
ระบบส่งข้อมูลทางไกลแบบรวมศูนย์เป็นรากฐานสำคัญ ชั้นการตรวจจับจะประมวลผลข้อมูลเหล่านั้นเพื่อพิจารณาว่าตัวแทนสามารถใช้เหตุผลได้อย่างมีประสิทธิภาพหรือไม่ NG-SIEM ที่รับข้อมูลบันทึกโดยไม่สื่อสารกับระบบตรวจสอบการเคลื่อนไหวในแนวด้านข้างของ NDR หรือ ITDR ระบบที่ตรวจจับความผิดปกติของข้อมูลประจำตัวโดยไม่ต้องเชื่อมต่อกับ UEBA เกณฑ์พื้นฐานด้านพฤติกรรม ก่อให้เกิดจุดบอดในการตรวจจับแบบเดียวกันกับที่สถาปัตยกรรมแบบบูรณาการที่เหมาะสมได้รับการออกแบบมาเพื่อปิดจุดบอดเหล่านั้น
ในระบบที่มีการบูรณาการอย่างดี แต่ละชั้นการตรวจจับจะส่งข้อมูลไปยังชั้นอื่นๆ พื้นผิว NDR แสดงตัวบ่งชี้การเคลื่อนไหวในแนวด้านข้างซึ่งจะกระตุ้นการทำงาน UEBA การวิเคราะห์บัญชีผู้ใช้ที่เกี่ยวข้อง ITDR ระบุความผิดปกติของข้อมูลประจำตัวที่ NG-SIEM สอดคล้องกับข้อมูลการวัดระยะทางจากอุปกรณ์ปลายทางใน CDR เจ้าหน้าที่ที่ปฏิบัติงานในเลเยอร์แบบบูรณาการนี้สามารถเข้าถึงมุมมองห่วงโซ่การโจมตีที่สมบูรณ์และบริบทที่เกี่ยวข้องซึ่งจำเป็นต่อการวิเคราะห์การโจมตีหลายขั้นตอน
การทำให้ API เป็นมาตรฐานและการทำงานอัตโนมัติที่คำนึงถึงตัวตน
เอเจนต์โต้ตอบกับระบบภายนอกผ่าน API และความปลอดภัยของการโต้ตอบเหล่านั้นขึ้นอยู่กับว่าแพลตฟอร์มพื้นฐานควบคุมและตรวจสอบได้ดีเพียงใด การทำให้ API เป็นมาตรฐานจะช่วยให้มั่นใจได้ว่าข้อมูลที่ไหลเข้าสู่ไปป์ไลน์การประมวลผลของเอเจนต์ได้รับการตรวจสอบความถูกต้อง จัดโครงสร้าง และกำจัดเวกเตอร์การแทรกข้อมูลที่อาจเกิดขึ้นก่อนที่เอเจนต์จะประมวลผล เลเยอร์ API ที่ไม่ได้ทำให้เป็นมาตรฐานจะทำให้เอเจนต์เสี่ยงต่อการถูกโจมตีจากเครื่องมือต่างๆ ดังที่กล่าวไว้ในหัวข้อก่อนหน้านี้ การทำงานอัตโนมัติที่คำนึงถึงตัวตนจะเพิ่มเลเยอร์การควบคุมอีกชั้นหนึ่ง การกระทำทุกอย่างของเอเจนต์ควรเชื่อมโยงกับตัวตนของเอเจนต์ที่ได้รับการตรวจสอบแล้ว ซึ่งมีสิทธิ์ที่กำหนดไว้และบันทึกการตรวจสอบที่สมบูรณ์ เมื่อเอเจนต์เรียกใช้ API สอบถามแหล่งข้อมูล หรือดำเนินการตอบสนอง การกระทำนั้นจะถูกกำหนดให้กับตัวตนเฉพาะที่มีขอบเขตการอนุญาตที่กำหนดไว้ เอเจนต์ที่ทำงานนอกบริบทตัวตนที่ได้รับอนุญาตจะทำให้เกิดการแจ้งเตือนเช่นเดียวกับบัญชีผู้ใช้ที่ถูกบุกรุก
การตรวจสอบพฤติกรรมของเอเจนต์ขณะรันไทม์
ระบบ AI ที่มีความปลอดภัยสูงจำเป็นต้องมีการตรวจสอบพฤติกรรมของเอเจนต์อย่างต่อเนื่องในระหว่างการทำงาน เช่น ลำดับการเรียกใช้เครื่องมือ แหล่งข้อมูลที่เข้าถึง การตัดสินใจที่บันทึกไว้ในแต่ละขั้นตอน และการเบี่ยงเบนใดๆ จากพฤติกรรมพื้นฐานที่กำหนดไว้ SOC ในบริบทนี้ การตรวจสอบการทำงานแบบเรียลไทม์จะป้อนข้อมูลโดยตรงไปยังความสามารถในการตรวจจับของแพลตฟอร์ม การวิเคราะห์พฤติกรรมของเอเจนต์จะทำงานควบคู่ไปกับการวิเคราะห์ปลายทางและเครือข่าย โดยเชื่อมโยงกิจกรรมของเอเจนต์กับข้อมูลความปลอดภัยในวงกว้าง เอเจนต์ที่สอบถามแหล่งข้อมูลนอกขอบเขตปกติ หรือเรียกใช้เครื่องมือในปริมาณที่ผิดปกติ จะสร้างสัญญาณการตรวจจับแบบเดียวกับเอนทิตีที่ผิดปกติอื่นๆ ในสภาพแวดล้อม
การใช้แซนด์บ็อกซ์เป็นกลไกควบคุมเชิงโครงสร้าง
การจำลองสภาพแวดล้อมจำลองในเอเจนต์ที่เติบโตเต็มที่ SOC นับเป็นข้อกำหนดทางสถาปัตยกรรม สภาพแวดล้อมการทำงานของเอเจนต์ทุกตัวควรทำงานอยู่ภายในขอบเขตที่กำหนดไว้ ได้แก่ เครื่องมือและ API ที่อนุญาต การเข้าถึงเครือข่ายที่ถูกจำกัด เส้นทางการส่งออกที่ผ่านการตรวจสอบ และการบันทึกปฏิสัมพันธ์ทั้งหมดภายในขอบเขตนั้น การใช้แซนด์บ็อกซ์ช่วยจำกัดขอบเขตความเสียหายของเอเจนต์ที่ถูกบุกรุก และทำให้เลเยอร์การสังเกตการณ์ของแพลตฟอร์มมีพื้นฐานที่ชัดเจนในการตรวจจับความผิดปกติ หลักการพื้นฐานคือ สภาพแวดล้อมการทำงานของเอเจนต์ถูกกำหนดขอบเขตไว้อย่างชัดเจน มีการตรวจสอบอย่างสม่ำเสมอ และออกแบบมาเพื่อป้องกันความล้มเหลว การแยกส่วนโดยใช้คอนเทนเนอร์ การบังคับใช้เกตเวย์ API และไปป์ไลน์การตรวจสอบความถูกต้องของเอาต์พุต ล้วนทำหน้าที่นั้น ในแพลตฟอร์มอย่าง Stellar Cyber ซึ่งความปลอดภัยของ AI สำหรับเอเจนต์ถูกฝังอยู่ในสถาปัตยกรรม แซนด์บ็อกซ์จะทำงานร่วมกับการสังเกตการณ์ขณะทำงานและระบบอัตโนมัติที่รับรู้ตัวตน เพื่อสร้างท่าทีการป้องกันที่สอดคล้องกันในทุกขั้นตอนของการทำงานของเอเจนต์
อะไรคือสิ่งที่แสดงถึงความเป็นผู้ใหญ่ SOC แพลตฟอร์มต่างๆ จะมีหน้าตาเป็นอย่างไรในปี 2027
องค์กรต่างๆ ที่นำ AI ตัวแทนมาใช้ในองค์กรของตน SOCบริษัทต่างๆ ในปัจจุบันกำลังสร้างความก้าวหน้าล้ำหน้ากว่ากรอบกฎระเบียบและมาตรฐานต่างๆ สิ่งที่กำลังเกิดขึ้นนี้จะเปลี่ยนแปลงข้อกำหนดในการใช้งานทั่วทั้งอุตสาหกรรมภายในสองปีข้างหน้า
แรงกดดันด้านกฎระเบียบกำลังปรับเปลี่ยนมาตรฐานการใช้งาน
รัฐบาลและหน่วยงานกำกับดูแลกำลังมุ่งไปสู่การกำหนดข้อกำหนดที่ชัดเจนสำหรับระบบ AI อัตโนมัติที่ทำการตัดสินใจที่มีผลกระทบสำคัญ บทบัญญัติของกฎหมาย AI ของสหภาพยุโรปเกี่ยวกับ AI ที่มีความเสี่ยงสูงกำลังถูกตีความให้รวมถึงระบบตัวแทนที่ทำงานในบริบทด้านความปลอดภัย และกรอบการทำงานที่เทียบเท่ากันกำลังพัฒนาขึ้นในตลาดสำคัญอื่นๆ ภายในปี 2027 คาดว่าข้อกำหนดด้านการปฏิบัติตามกฎระเบียบเกี่ยวกับความโปร่งใส การตรวจสอบได้ และการกำกับดูแลโดยมนุษย์ของตัวแทน จะมีอิทธิพลต่อการตัดสินใจในการจัดซื้อและการใช้งานระบบอย่างเท่าเทียมกัน ทีมรักษาความปลอดภัยที่กำลังสร้างระบบตัวแทน SOC ปัจจุบัน ฝ่ายปฏิบัติการควรใช้ร่างกฎระเบียบปัจจุบันเป็นสัญญาณบ่งชี้ทิศทางของข้อกำหนดในอนาคต และปรับโครงสร้างสถาปัตยกรรมให้สอดคล้องกับทิศทางนั้น
การระบุตัวตนของเอเจนต์กลายเป็นองค์ประกอบพื้นฐานด้านความปลอดภัย
กลุ่มอุตสาหกรรมกำลังดำเนินการเพื่อกำหนดมาตรฐานโปรโตคอลสำหรับการตรวจสอบสิทธิ์ระหว่างเอเจนต์และการยืนยันตัวตน โดยอาศัยหลักการที่ OAuth และ SAML ได้กำหนดไว้สำหรับการตรวจสอบสิทธิ์ของมนุษย์และแอปพลิเคชัน เนื่องจากสถาปัตยกรรมแบบหลายเอเจนต์กำลังเป็นที่แพร่หลายมากขึ้น SOC สภาพแวดล้อม การตรวจสอบตัวตนของตัวแทน การสร้างความไว้วางใจระหว่างตัวแทน และการตรวจสอบการโต้ตอบข้ามตัวแทน จะเปลี่ยนจากคำแนะนำไปเป็นข้อกำหนดพื้นฐาน แพลตฟอร์มที่มีระบบอัตโนมัติที่รับรู้ตัวตนในตัวจะอยู่ในตำแหน่งที่ดีกว่าเมื่อมาตรฐานเหล่านี้ได้รับการกำหนดอย่างเป็นทางการ
การทดสอบเจาะระบบอย่างต่อเนื่องสำหรับเวิร์กโฟลว์ของ Agentic
แพลตฟอร์มการทดสอบเจาะระบบอัตโนมัติ (Red-teaming) ที่สร้างขึ้นโดยเฉพาะเพื่อความปลอดภัยของ AI ที่ใช้เอเจนต์กำลังเริ่มปรากฏขึ้น แพลตฟอร์มเฉพาะเหล่านี้จะทดสอบเอเจนต์อย่างต่อเนื่องกับตัวแปรการฉีดข้อมูลแบบทันที สถานการณ์การจัดการเครื่องมือ และเงื่อนไขความมั่นใจที่ผิดพลาด ซึ่งช่วยให้ทีมรักษาความปลอดภัยได้รับการตรวจสอบพฤติกรรมของเอเจนต์ภายใต้แรงกดดันจากฝ่ายตรงข้ามอย่างต่อเนื่อง ในทำนองเดียวกับที่การทดสอบเจาะระบบกลายเป็นมาตรฐานสำหรับโครงสร้างพื้นฐานแบบดั้งเดิม การทดสอบเจาะระบบอัตโนมัติจะกลายเป็นข้อกำหนดในการปฏิบัติงานประจำสำหรับองค์กรใด ๆ ที่ใช้งานระบบอัตโนมัติ SOC เวิร์กโฟลว์
วงจรการทำงานอัตโนมัติเต็มรูปแบบ SOC การดำเนินการ
ทิศทางที่แพลตฟอร์มที่เติบโตเต็มที่กำลังมุ่งไปคือ อัตโนมัติเต็มรอบ SOC การดำเนินการ: การรับข้อมูลแจ้งเตือน การเสริมข้อมูล การตรวจสอบ การตัดสิน และการควบคุมภัยคุกคามที่เข้าใจได้เป็นอย่างดี โดยดำเนินการโดยไม่ต้องมีการแทรกแซงด้วยตนเอง ในขณะที่นักวิเคราะห์จะมุ่งเน้นไปที่ภัยคุกคามใหม่ๆ กรณีพิเศษ และการตัดสินใจเชิงกลยุทธ์ที่ต้องอาศัยบริบทและวิจารณญาณขององค์กร สถาปัตยกรรมของ Stellar Cyber ได้รับการออกแบบโดยยึดแนวทางนี้ การลงทุนในระบบส่งข้อมูลทางไกลแบบรวมศูนย์ ชั้นการตรวจจับแบบบูรณาการ การจำลองสภาพแวดล้อม และระบบอัตโนมัติที่เสริมด้วยมนุษย์ในปัจจุบัน คือโครงสร้างพื้นฐานที่ทำให้การทำงานแบบอัตโนมัติครบวงจรดำเนินไปได้ ความปลอดภัยของ AI ที่เป็นเอเจนต์ คือสิ่งที่ทำให้วิสัยทัศน์นั้นสามารถนำไปปฏิบัติได้จริง