โลโก้ Stellar Cyber ​​Open XDR
ค้นหา
ปิดช่องค้นหานี้
โลโก้ Stellar Cyber ​​Open XDR
โลโก้ Stellar Cyber ​​Open XDR

ปลดล็อกศักยภาพของ AI/ML ในการรักษาความปลอดภัยทางไซเบอร์: ความท้าทาย โอกาส และตัวบ่งชี้ความคืบหน้า

ปลดล็อกศักยภาพของ AI/ML ในการรักษาความปลอดภัยทางไซเบอร์: ความท้าทาย โอกาส และตัวบ่งชี้ความคืบหน้า
ปัญญาประดิษฐ์ (AI)
ได้รับการเปลี่ยนแปลงของ โลกไซเบอร์ ภูมิทัศน์มากว่าทศวรรษกับ การเรียนรู้ของเครื่อง (ML) เร่งการตรวจจับภัยคุกคามและระบุพฤติกรรมของผู้ใช้และเอนทิตีที่ผิดปกติ อย่างไรก็ตาม การพัฒนาล่าสุดในรูปแบบภาษาขนาดใหญ่ (LLM)เช่น GPT-3 . ของ OpenAIได้นำ AI มาสู่แถวหน้าของชุมชนความปลอดภัยทางไซเบอร์ โมเดลเหล่านี้ใช้เอกสาร โลกไซเบอร์ ข้อมูลเพื่อเรียนรู้วิธีตอบสนองต่อข้อความแจ้งในหัวข้อ ปริญญามหาบัณฑิต ยังสามารถอธิบายปัญหาด้านความปลอดภัยที่ซับซ้อนด้วยภาษาที่เข้าใจง่าย นำผู้ที่ไม่ใช่ผู้เชี่ยวชาญเข้าสู่โลกของ โลกไซเบอร์.

ในขณะที่ ปริญญามหาบัณฑิต ไม่ใช่กระสุนเงินสำหรับการรักษาความปลอดภัยทางไซเบอร์ แต่สามารถตรวจจับและบรรเทาการโจมตีทางไซเบอร์ในวงกว้างได้อย่างรวดเร็ว น่าเสียดาย เช่นเดียวกับความก้าวหน้าทั้งหมดในโลกของความปลอดภัยทางไซเบอร์ ผู้ไม่ประสงค์ดีกำลังใช้ ปริญญามหาบัณฑิต เพื่อเพิ่มความกว้างและความเร็วของการโจมตีด้วยความสำเร็จในช่วงต้น


หนึ่งในความท้าทายที่สำคัญในการใช้ประโยชน์จาก AI เพื่อความปลอดภัยในโลกไซเบอร์ เป็นการสร้างความไว้วางใจ ความน่าเชื่อถือคือทุกสิ่งในการรักษาความปลอดภัย และเป็นเวลาหลายปีที่ผู้ขายเล่นแบบ "รวดเร็วและหลวม"  “เอไอ/เอ็มแอล”ซึ่งมักจะพูดเกินจริงถึงความสามารถเพื่อกระตุ้นความสนใจที่เพิ่มขึ้นในข้อเสนอของตน แนวทางปฏิบัตินี้ทำให้ผู้มีอำนาจตัดสินใจด้านความปลอดภัยในโลกไซเบอร์หลายคนไม่มั่นใจในเทคโนโลยีใดๆ AI / ML ความสามารถ นอกจากนี้ ความถูกต้องและความสามารถในการอธิบายเป็นความท้าทายที่สำคัญสองประการเกี่ยวกับ AI / ML. ข้อมูลที่ใช้ในการฝึก โมเดล AI/ML ขับเคลื่อนเอาต์พุตของโมเดล หากข้อมูลการฝึกอบรมไม่ได้แสดงถึง "โลกแห่งความจริง" แบบจำลองจะพัฒนาอคติที่สามารถบิดเบือนความสามารถในการให้ผลลัพธ์ที่คาดหวังได้ ข้อมูลบางอย่าง เช่น ภัยคุกคามของ Intel คุณลักษณะของไฟล์ที่ดีและไม่ดี ตัวบ่งชี้การประนีประนอม (IOC) และอื่น ๆ ที่คล้ายคลึงกัน เป็นข้อมูลสำหรับทุกคน อย่างไรก็ตาม ข้อมูลพฤติกรรมของผู้ใช้และเอนทิตีใช้กับผู้ใช้หรือเอนทิตีที่ระบุเท่านั้น  

ความท้าทายที่สำคัญอีกประการหนึ่งคือความปลอดภัยของข้อมูล การกำหนดและควบคุมว่าข้อมูลการฝึกอบรมใดบ้างที่สามารถแชร์ได้และข้อมูลใดที่อยู่กับองค์กรเป็นสิ่งจำเป็น ข้อมูลนี้อาจช่วยให้ผู้ไม่ประสงค์ดีโจมตีเพื่อล้มล้าง AI/ML ความสามารถในการระบุไฟล์ แอปพลิเคชัน และพฤติกรรมที่เลวร้าย เป็นผลให้รัฐบาลและหน่วยงานเชิงพาณิชย์จำเป็นต้องสร้างกฎระเบียบ มาตรฐาน และแนวปฏิบัติที่ดีที่สุดเพื่อป้องกันภัยคุกคามใหม่ๆ

ตัวอย่างเช่น การตรวจจับและการตอบสนองแบบขยาย (XDR) ผลิตภัณฑ์ช่วยให้ผู้ใช้ที่ไม่ใช่ผู้เชี่ยวชาญสามารถส่งมอบผลลัพธ์ที่เคยคิดไว้สำหรับเจ้าหน้าที่รักษาความปลอดภัยอาวุโสเท่านั้น ผู้ที่ไม่ใช่ผู้เชี่ยวชาญสามารถดำเนินการตรวจสอบและตอบกลับอย่างครอบคลุมโดยไม่ต้องเขียนคำถามที่ซับซ้อนหรือพัฒนาสคริปต์ ด้วยเหตุนี้ เราจึงเห็นช่องว่างความสามารถในปัจจุบันระหว่างอุปสงค์และอุปทานของผู้เชี่ยวชาญด้านความปลอดภัย

เมื่อเร็ว ๆ นี้ การพัฒนา AI จะช่วยเร่งกระบวนการทำงานอัตโนมัติ ทำให้ตรวจจับและตอบสนองได้รวดเร็วและมีประสิทธิภาพมากขึ้น อย่างไรก็ตาม ในขณะที่การรวบรวมข้อมูล การทำให้เป็นมาตรฐาน การตรวจจับ และการทำงานอัตโนมัติที่สัมพันธ์กันนั้นเป็นไปได้ การโจมตีแบบ bespoke ที่ซับซ้อนนั้นต้องการการมีส่วนร่วมของผู้เชี่ยวชาญด้านความปลอดภัยมืออาชีพ นอกจากนี้ ผู้โจมตีใช้ประโยชน์จากพาหะของมนุษย์บ่อยครั้ง ดังที่เห็นในการโจมตีที่มีชื่อเสียง เช่น SolarWinds และการโจมตี Colonial Pipeline แม้ว่าจะเป็นไปไม่ได้ที่จะกำจัดศักยภาพของผู้ใช้ที่จะกลายเป็นส่วนหนึ่งของ cyberattackความก้าวหน้าทางเทคโนโลยีอย่างต่อเนื่องประกอบกับความพร้อมของ บริการ MDR/MSSP ทำให้มีความเป็นไปได้ที่การกระทำของผู้ใช้จะลดน้อยลงอย่างต่อเนื่อง ไม่ว่าจะโดยเจตนาหรือโดยไม่ได้ตั้งใจ จะนำไปสู่การละเมิดอย่างกว้างขวาง 

เกี่ยวกับตัวบ่งชี้ความคืบหน้าสำหรับ AI ในโลกไซเบอร์, ความปลอดภัย ท่าทางเทียบกับงบประมาณการรักษาความปลอดภัย คือบททดสอบขั้นสูงสุด AI ให้ผลลัพธ์ที่ดีกว่าที่ถูกกว่า/เร็วกว่าทางเลือกอื่นหรือไม่? ทีมรักษาความปลอดภัยขององค์กรแสดงถึงผลกระทบของ AI ในการเปลี่ยนแปลงเมตริกประสิทธิภาพจริง เช่น เวลาเฉลี่ยในการตรวจจับและตอบสนอง (MTTD และ MTTRตามลำดับ). MSSP มีโอกาสที่ดีที่สุดในการพูดถึงผลกระทบของ AI ในด้านกำไร ในทางบวกหรือทางลบ เนื่องจากพวกเขาให้บริการเพื่อผลักดันรายได้ พวกเขาควรเห็นผลกระทบทางการเงินที่จับต้องได้หลังจากรับเลี้ยงบุตรบุญธรรม ความปลอดภัยทางไซเบอร์ที่ขับเคลื่อนด้วย AI โซลูชั่น ไม่มีกระสุนวิเศษในโลกความปลอดภัยทางไซเบอร์ ผู้ให้บริการด้านความปลอดภัยที่ส่งเสริมเทคโนโลยีใด ๆ ว่ามีประสิทธิภาพ 100% หรืออ้างว่าสามารถป้องกันและตรวจจับการละเมิดทั้งหมดควรถูกชุมชนเย้ยหยัน เนื่องจากพวกเขาแสดงความเข้าใจผิดเกี่ยวกับความปลอดภัยทางไซเบอร์ให้ทุกคนได้เห็น อย่างไรก็ตาม การพัฒนาล่าสุดใน LLM และเทคโนโลยี AI อื่นๆ สามารถส่งผลกระทบต่อความเร็วและความง่ายในการตรวจจับและบรรเทาภัยคุกคาม ชุมชนความปลอดภัยทางไซเบอร์ต้องมีความน่าเชื่อถือ ความถูกต้อง และความรับผิดชอบในการยอมรับศักยภาพสูงสุดของ AI นอกจากนี้ มักจะมีการโจมตีที่ซับซ้อนซึ่งต้องอาศัยการมีส่วนร่วมของมนุษย์ และตัวบ่งชี้ความคืบหน้าควรมุ่งเน้นไปที่เมตริกต่างๆ เช่น ท่าทางการรักษาความปลอดภัย เทียบกับงบประมาณการรักษาความปลอดภัย และระบบอัตโนมัติ SOC AI สามารถช่วยให้เรารักษาโลกดิจิทัลให้ปลอดภัยยิ่งขึ้นโดยจัดการกับความท้าทายเหล่านี้และติดตามความคืบหน้า

เลื่อนไปที่ด้านบน