الذكاء الاصطناعي (منظمة العفو الدولية) تم تحويل الأمن السيبراني المناظر الطبيعية لأكثر من عقد من الزمان ، مع التعلم الآلي (ML) تسريع اكتشاف التهديدات وتحديد السلوكيات الشاذة للمستخدم والكيان. ومع ذلك ، التطورات الأخيرة في نماذج اللغة الكبيرة (ماجستير)، مثل OpenAI's GPT-3، جعل الذكاء الاصطناعي في طليعة مجتمع الأمن السيبراني. تستخدم هذه النماذج موثقة الأمن السيبراني معلومات لمعرفة كيفية الاستجابة للمطالبات حول الموضوع. ماجستير يمكنه أيضًا شرح مشكلات الأمان المعقدة بلغة سهلة الفهم ، وإحضار غير الخبراء إلى عالم الأمن السيبراني.
مع أن أنظمة إدارة التعلم الآلي ليست حلاً سحرياً للأمن السيبراني، إلا أنها قادرة على الكشف السريع عن الهجمات السيبرانية واسعة النطاق والتخفيف من آثارها. وللأسف، كما هو الحال مع جميع التطورات في عالم الأمن السيبراني، يستغل المخترقون هذه الأنظمة لزيادة نطاق هجماتهم وسرعتها، وقد حققوا بعض النجاحات الأولية.
أحد التحديات الكبيرة في الرفع المالي الذكاء الاصطناعي للأمن السيبراني تبني الثقة. الثقة هي كل شيء في مجال الأمن ، ولسنوات عديدة ، كان البائعون يلعبون "بسرعة وبسرعة" "AI / ML"، غالبًا ما يبالغ في تقدير قدراتهم لجذب الاهتمام المتزايد بعروضهم. تسببت هذه الممارسة في تشكك العديد من صانعي القرار في مجال الأمن السيبراني في أي ترويج للتكنولوجيا AI / ML قدرات. بالإضافة إلى ذلك ، تعد الدقة وإمكانية الشرح تحديين مهمين بخصوص AI / ML. البيانات المستخدمة في التدريب نماذج AI / ML يقود إخراج النماذج. إذا كانت بيانات التدريب لا تمثل "العالم الحقيقي" ، فسيقوم النموذج بتطوير تحيز يمكن أن يؤدي إلى تحريف قدرته على تحقيق النتائج المتوقعة. بعض البيانات ، مثل معلومات التهديد ، وخصائص الملفات الجيدة والسيئة ، ومؤشرات التسوية (IOCs) ، وما شابه ذلك ، متاحة للجميع. ومع ذلك ، فإن بيانات سلوك المستخدم والكيان تنطبق فقط على المستخدم أو الكيان المحدد.
يُعدّ أمن البيانات تحديًا بالغ الأهمية. فمن الضروري تحديد ومراقبة البيانات التدريبية التي يُمكن مشاركتها وتلك التي تبقى لدى المؤسسات. إذ يُمكن لهذه البيانات، في حال وقوعها في الأيدي الخطأ، أن تُساعد جهات خبيثة في هجماتها لتقويض قدرة الذكاء الاصطناعي/التعلم الآلي على تحديد ملفاتها وتطبيقاتها وسلوكياتها باعتبارها ضارة. ونتيجةً لذلك، يتعين على الحكومات والكيانات التجارية وضع لوائح ومعايير وأفضل الممارسات للتصدي للتهديدات الجديدة.
على سبيل المثال، الكشف والاستجابة الممتدة (XDR) تمكّن المنتجات المستخدمين غير الخبراء من تقديم النتائج التي تم التفكير فيها سابقًا فقط لموظفي الأمن الكبار. يمكن لغير الخبراء إكمال التحقيقات والاستجابات الشاملة دون كتابة استفسارات معقدة أو تطوير البرامج النصية. نتيجة لذلك ، يمكننا أن نرى فجوة المواهب الحالية بين العرض والطلب لمتخصصي الأمن.
ستُسهم التطورات الحديثة في مجال الذكاء الاصطناعي في تسريع عملية الأتمتة، مما يجعل الكشف والاستجابة أسرع وأكثر فعالية. ومع ذلك، فبينما يُمكن أتمتة جمع البيانات وتوحيدها والكشف عنها وربطها، فإن الهجمات المعقدة والمصممة خصيصًا تتطلب تدخل خبراء أمن محترفين. إضافةً إلى ذلك، يستغل المهاجمون نقاط الضعف البشرية بشكل متكرر، كما رأينا في هجمات بارزة مثل هجوم SolarWinds وهجوم Colonial Pipeline. ورغم استحالة القضاء على احتمالية وقوع المستخدم ضحية لهجوم إلكتروني دون قصد ، فإن التقدم التكنولوجي المستمر، إلى جانب توفر خدمات MDR/MSSP ، يُتيح تقليل احتمالية تسبب تصرفات المستخدم، سواءً كانت مقصودة أو غير مقصودة، في اختراق واسع النطاق.
فيما يتعلق بمؤشرات التقدم ل الذكاء الاصطناعي في الأمن السيبراني، حماية الموقف مقابل الميزانية الأمنية هو الاختبار النهائي. هل يقدم الذكاء الاصطناعي نتائج أفضل أرخص / أسرع من البديل؟ تمثل فرق أمان المؤسسة تأثير الذكاء الاصطناعي في تغييرات مقاييس الأداء الفعلية ، مثل متوسط الوقت للكشف والاستجابة (MTTD و MTTR، على التوالى). يتمتع MSSPs بأفضل فرصة للتعبير عن تأثير الذكاء الاصطناعي على أرباحهم النهائية ، بشكل إيجابي أو سلبي. نظرًا لأنهم يقدمون خدمات لزيادة الإيرادات ، يجب أن يروا الآثار المالية الملموسة بعد التبني الأمن السيبراني المدعوم بالذكاء الاصطناعي لا توجد حلول سحرية في عالم الأمن السيبراني. يجب على مجتمع الأمن السيبراني أن يسخر من مزودي حلول الأمن الذين يروجون لأي تقنية على أنها فعالة بنسبة 100% أو يدّعون القدرة على منع جميع الاختراقات واكتشافها، لأنهم بذلك يُظهرون فهمهم الخاطئ للأمن السيبراني للجميع. مع ذلك، يمكن للتطورات الحديثة في نماذج التعلم الآلي للشبكات (LLMs) وغيرها من تقنيات الذكاء الاصطناعي أن تؤثر على سرعة وسهولة اكتشاف التهديدات والتخفيف من آثارها. يجب أن يتحلى مجتمع الأمن السيبراني بالثقة والدقة والمساءلة للاستفادة الكاملة من إمكانات الذكاء الاصطناعي. إضافةً إلى ذلك، ستظل هناك دائمًا هجمات معقدة تتطلب تدخلًا بشريًا، ويجب أن تركز مؤشرات التقدم على مقاييس مثل الوضع الأمني مقابل ميزانية الأمن. SOC الأتمتة. يمكن للذكاء الاصطناعي أن يساعدنا في الحفاظ على عالم رقمي أكثر أمانًا من خلال معالجة هذه التحديات وتتبع التقدم المحرز.
