Штучний інтелект (AI) трансформує кібербезпека ландшафт протягом понад десятиліття, з машинне навчання (ML) пришвидшення виявлення загроз та ідентифікації аномальної поведінки користувачів і сутностей. Однак, останні розробки у великих мовних моделях (LLM), Такі, як OpenAI GPT-3, вивели ШІ на передній план спільноти кібербезпеки. Ці моделі використовують задокументовані кібербезпека інформація, щоб навчитися реагувати на підказки з теми. LLM також може пояснити складні питання безпеки легкою для розуміння мовою, занурюючи неексперта у світ кібербезпека.
Хоча LLM не є панацеєю для кібербезпеки, вони можуть швидко виявляти та пом'якшувати кібератаки у великих масштабах. На жаль, як і з усіма досягненнями у світі кібербезпеки, зловмисники використовують LLM для збільшення широти та швидкості своїх атак, і на початку вони досягають певного успіху.
Одна з суттєвих проблем у використанні Штучний інтелект для кібербезпеки будує довіру. Довіра — це все в безпеці, і роками постачальники грали «швидко та вільно» з «Штучний інтелект/машинне навчання», часто перебільшуючи свої можливості, щоб викликати підвищений інтерес до своїх пропозицій. Через цю практику багато осіб, які приймають рішення у сфері кібербезпеки, скептично ставляться до будь-якої реклами технологій AI / ML можливості. Крім того, точність та пояснювальність є двома суттєвими викликами щодо AI / MLДані, що використовуються для навчання Моделі AI/ML керує результатами моделей. Якщо навчальні дані не відображають «реальний світ», модель виробить упередженість, яка може спотворити її здатність надавати очікувані результати. Деякі дані, такі як інформація про загрози, характеристики хороших та поганих файлів, індикатори компрометації (IOC) тощо, доступні всім. Однак дані про поведінку користувачів та сутностей стосуються лише конкретного користувача або сутності.
Ще одним суттєвим викликом є безпека даних. Визначення та контроль того, які навчальні дані можна використовувати, а які залишаються в організаціях, є надзвичайно важливим. У неправильних руках ці дані можуть допомогти зловмисникам у своїх атаках підірвати здатність штучного інтелекту/модельного навчання ідентифікувати їхні файли, програми та поведінку як зловмисні. Як наслідок, урядам та комерційним організаціям необхідно розробляти правила, стандарти та передові практики для запобігання новим загрозам.
Наприклад, Розширене виявлення та реагування (XDR) Продукти дозволяють користувачам, які не є експертами, досягати результатів, які колись вважалися доступними лише для старших співробітників служби безпеки. Неексперти можуть проводити комплексні розслідування та відповіді, не пишучи складні запити чи розробляючи сценарії. Як результат, ми бачимо поточний розрив між пропозицією та попитом на фахівців з безпеки.
Нещодавні розробки штучного інтелекту пришвидшать процес автоматизації, роблячи виявлення та реагування швидшими та ефективнішими. Однак, хоча автоматизація збору, нормалізації, виявлення та кореляції даних можлива, складні індивідуальні атаки вимагають участі професійних експертів з безпеки. Крім того, зловмисники часто використовують людський фактор, як це спостерігається у гучних атаках, таких як SolarWinds та атака Colonial Pipeline. Хоча неможливо виключити можливість ненавмисного потрапляння користувача в кібератаку , постійний технологічний розвиток у поєднанні з доступністю послуг MDR/MSSP дозволяє постійно зменшувати ймовірність того, що дії користувача, навмисні чи випадкові, призведуть до широкомасштабного порушення.
Щодо показників прогресу для ШІ в кібербезпеці, безпека постава проти бюджету на безпеку – це остаточний тест. Чи забезпечує ШІ кращі результати, які є дешевшими/швидшими, ніж альтернатива? Команди корпоративної безпеки відображають вплив ШІ на фактичні зміни показників продуктивності, такі як середній час виявлення та реагування (MTTD та MTTR, відповідно). Постачальники послуг з управління бізнес-процесами (MSSP) мають найкращу можливість чітко визначити вплив штучного інтелекту на свій прибуток, позитивний чи негативний. Оскільки вони надають послуги для збільшення доходу, вони повинні побачити відчутні фінансові наслідки після впровадження. Кібербезпека на основі штучного інтелекту рішення. У світі кібербезпеки немає чарівних паличок. Постачальники рішень безпеки, які рекламують будь-яку технологію як 100% ефективну або стверджують про здатність запобігати та виявляти всі порушення, повинні бути висміяні спільнотою, оскільки вони демонструють своє нерозуміння кібербезпеки на загальний огляд. Тим не менш, останні розробки в LLM та інших технологіях штучного інтелекту можуть вплинути на швидкість і легкість виявлення та пом'якшення загроз. Спільнота кібербезпеки повинна мати довіру, точність і відповідальність, щоб повною мірою використовувати потенціал штучного інтелекту. Крім того, завжди будуть складні атаки, які вимагають участі людини, а показники прогресу повинні зосереджуватися на таких метриках, як стан безпеки порівняно з бюджетом на безпеку та SOC автоматизація. Штучний інтелект може допомогти нам підтримувати безпечніший цифровий світ, вирішуючи ці проблеми та відстежуючи прогрес.
