ปัญญาประดิษฐ์ (AI) ได้รับการเปลี่ยนแปลงของ โลกไซเบอร์ ภูมิทัศน์มากว่าทศวรรษกับ การเรียนรู้ของเครื่อง (ML) เร่งการตรวจจับภัยคุกคามและระบุพฤติกรรมของผู้ใช้และเอนทิตีที่ผิดปกติ อย่างไรก็ตาม การพัฒนาล่าสุดในรูปแบบภาษาขนาดใหญ่ (LLM)เช่น GPT-3 . ของ OpenAIได้นำ AI มาสู่แถวหน้าของชุมชนความปลอดภัยทางไซเบอร์ โมเดลเหล่านี้ใช้เอกสาร โลกไซเบอร์ ข้อมูลเพื่อเรียนรู้วิธีตอบสนองต่อข้อความแจ้งในหัวข้อ ปริญญามหาบัณฑิต ยังสามารถอธิบายปัญหาด้านความปลอดภัยที่ซับซ้อนด้วยภาษาที่เข้าใจง่าย นำผู้ที่ไม่ใช่ผู้เชี่ยวชาญเข้าสู่โลกของ โลกไซเบอร์.
แม้ว่าLLMจะไม่ใช่ทางออกเดียวที่จะแก้ปัญหาทุกอย่างในด้านความปลอดภัยทางไซเบอร์ แต่ก็สามารถตรวจจับและลดผลกระทบจากการโจมตีทางไซเบอร์ในวงกว้างได้อย่างรวดเร็ว อย่างไรก็ตาม เช่นเดียวกับความก้าวหน้าทั้งหมดในโลกของความปลอดภัยทางไซเบอร์ ผู้ไม่หวังดีกำลังใช้LLMเพื่อเพิ่มขอบเขตและความเร็วในการโจมตีของตน และประสบความสำเร็จในระยะแรกบ้างแล้ว
หนึ่งในความท้าทายที่สำคัญในการใช้ประโยชน์จาก AI เพื่อความปลอดภัยในโลกไซเบอร์ เป็นการสร้างความไว้วางใจ ความน่าเชื่อถือคือทุกสิ่งในการรักษาความปลอดภัย และเป็นเวลาหลายปีที่ผู้ขายเล่นแบบ "รวดเร็วและหลวม" “เอไอ/เอ็มแอล”ซึ่งมักจะพูดเกินจริงถึงความสามารถเพื่อกระตุ้นความสนใจที่เพิ่มขึ้นในข้อเสนอของตน แนวทางปฏิบัตินี้ทำให้ผู้มีอำนาจตัดสินใจด้านความปลอดภัยในโลกไซเบอร์หลายคนไม่มั่นใจในเทคโนโลยีใดๆ AI / ML ความสามารถ นอกจากนี้ ความถูกต้องและความสามารถในการอธิบายเป็นความท้าทายที่สำคัญสองประการเกี่ยวกับ AI / ML. ข้อมูลที่ใช้ในการฝึก โมเดล AI/ML ขับเคลื่อนเอาต์พุตของโมเดล หากข้อมูลการฝึกอบรมไม่ได้แสดงถึง "โลกแห่งความจริง" แบบจำลองจะพัฒนาอคติที่สามารถบิดเบือนความสามารถในการให้ผลลัพธ์ที่คาดหวังได้ ข้อมูลบางอย่าง เช่น ภัยคุกคามของ Intel คุณลักษณะของไฟล์ที่ดีและไม่ดี ตัวบ่งชี้การประนีประนอม (IOC) และอื่น ๆ ที่คล้ายคลึงกัน เป็นข้อมูลสำหรับทุกคน อย่างไรก็ตาม ข้อมูลพฤติกรรมของผู้ใช้และเอนทิตีใช้กับผู้ใช้หรือเอนทิตีที่ระบุเท่านั้น
ความท้าทายที่สำคัญอีกประการหนึ่งคือความปลอดภัยของข้อมูล การกำหนดและควบคุมว่าข้อมูลการฝึกอบรมใดสามารถแบ่งปันได้ และข้อมูลใดควรอยู่กับองค์กรนั้นเป็นสิ่งจำเป็น หากข้อมูลเหล่านี้ตกอยู่ในมือผู้ไม่หวังดี อาจช่วยผู้ไม่หวังดีในการโจมตีเพื่อบ่อนทำลาย ความสามารถ ของ AI/MLในการระบุไฟล์ แอปพลิเคชัน และพฤติกรรมที่เป็นอันตราย ดังนั้น รัฐบาลและหน่วยงานเชิงพาณิชย์จึงจำเป็นต้องสร้างกฎระเบียบ มาตรฐาน และแนวปฏิบัติที่ดีที่สุดเพื่อป้องกันภัยคุกคามใหม่ๆ
ตัวอย่างเช่น การตรวจจับและการตอบสนองที่ขยาย (XDR) ผลิตภัณฑ์ช่วยให้ผู้ใช้ที่ไม่ใช่ผู้เชี่ยวชาญสามารถส่งมอบผลลัพธ์ที่เคยคิดไว้สำหรับเจ้าหน้าที่รักษาความปลอดภัยอาวุโสเท่านั้น ผู้ที่ไม่ใช่ผู้เชี่ยวชาญสามารถดำเนินการตรวจสอบและตอบกลับอย่างครอบคลุมโดยไม่ต้องเขียนคำถามที่ซับซ้อนหรือพัฒนาสคริปต์ ด้วยเหตุนี้ เราจึงเห็นช่องว่างความสามารถในปัจจุบันระหว่างอุปสงค์และอุปทานของผู้เชี่ยวชาญด้านความปลอดภัย
ความก้าวหน้า ล่าสุดของ AIจะช่วยเร่งกระบวนการอัตโนมัติ ทำให้การตรวจจับและการตอบสนองรวดเร็วและมีประสิทธิภาพมากขึ้น อย่างไรก็ตาม แม้ว่าการรวบรวมข้อมูล การปรับมาตรฐาน การตรวจจับ และการเชื่อมโยงข้อมูลโดยอัตโนมัติจะเป็นไปได้ แต่การโจมตีที่ซับซ้อนและเฉพาะเจาะจงนั้นจำเป็นต้องอาศัยผู้เชี่ยวชาญด้านความปลอดภัย นอกจากนี้ ผู้โจมตีมักใช้ช่องโหว่ของมนุษย์ ดังที่เห็นได้จากการโจมตีครั้งสำคัญ เช่น SolarWinds และการโจมตี Colonial Pipeline แม้ว่าจะเป็นไปไม่ได้ที่จะกำจัดความเป็นไปได้ที่ผู้ใช้จะกลายเป็นส่วนหนึ่งของการโจมตีทางไซเบอร์ โดยไม่ตั้งใจ แต่ ความก้าวหน้าทางเทคโนโลยีอย่างต่อเนื่องควบคู่ไปกับการมีบริการ MDR/MSSPทำให้สามารถลดโอกาสที่การกระทำของผู้ใช้ ไม่ว่าจะโดยตั้งใจหรือไม่ตั้งใจ จะนำไปสู่การละเมิดข้อมูลในวงกว้างได้อย่างต่อเนื่อง
เกี่ยวกับตัวบ่งชี้ความคืบหน้าสำหรับ AI ในโลกไซเบอร์, ความปลอดภัย ท่าทางเทียบกับงบประมาณการรักษาความปลอดภัย คือบททดสอบขั้นสูงสุด AI ให้ผลลัพธ์ที่ดีกว่าที่ถูกกว่า/เร็วกว่าทางเลือกอื่นหรือไม่? ทีมรักษาความปลอดภัยขององค์กรแสดงถึงผลกระทบของ AI ในการเปลี่ยนแปลงเมตริกประสิทธิภาพจริง เช่น เวลาเฉลี่ยในการตรวจจับและตอบสนอง (MTTD และ MTTRตามลำดับ). MSSP มีโอกาสที่ดีที่สุดในการพูดถึงผลกระทบของ AI ในด้านกำไร ในทางบวกหรือทางลบ เนื่องจากพวกเขาให้บริการเพื่อผลักดันรายได้ พวกเขาควรเห็นผลกระทบทางการเงินที่จับต้องได้หลังจากรับเลี้ยงบุตรบุญธรรม ความปลอดภัยทางไซเบอร์ที่ขับเคลื่อนด้วย AI ไม่มีวิธีแก้ปัญหาใดในโลกของความปลอดภัยทางไซเบอร์ที่ได้ผลอย่างสมบูรณ์แบบ ผู้จำหน่ายโซลูชันด้านความปลอดภัยที่ส่งเสริมเทคโนโลยีใด ๆ ว่ามีประสิทธิภาพ 100% หรืออ้างว่าสามารถป้องกันและตรวจจับการละเมิดทั้งหมดได้ ควรถูกประณามจากชุมชน เนื่องจากเป็นการแสดงให้เห็นถึงความเข้าใจผิดเกี่ยวกับความปลอดภัยทางไซเบอร์อย่างชัดเจน อย่างไรก็ตาม การพัฒนาล่าสุดในด้าน LLM และเทคโนโลยี AI อื่น ๆ สามารถส่งผลกระทบต่อความเร็วและความง่ายในการตรวจจับและลดภัยคุกคาม ชุมชนความปลอดภัยทางไซเบอร์ต้องมีความไว้วางใจ ความถูกต้อง และความรับผิดชอบ เพื่อที่จะใช้ศักยภาพของ AI อย่างเต็มที่ นอกจากนี้ จะยังคงมีการโจมตีที่ซับซ้อนซึ่งต้องอาศัยการมีส่วนร่วมของมนุษย์ และตัวชี้วัดความก้าวหน้าควรเน้นที่ตัวชี้วัด เช่น สถานะความปลอดภัยเทียบกับงบประมาณด้านความปลอดภัย SOC ระบบอัตโนมัติ ปัญญาประดิษฐ์ (AI) สามารถช่วยให้เราสร้างโลกดิจิทัลที่ปลอดภัยยิ่งขึ้นได้ โดยการจัดการกับความท้าทายเหล่านี้และติดตามความคืบหน้า
