Sztuczna inteligencja (AI) przekształcał bezpieczeństwo cybernetyczne krajobraz od ponad dekady, z uczenie maszynowe (ML) przyspieszenie wykrywania zagrożeń i identyfikowanie nietypowych zachowań użytkowników i podmiotów. Jednak ostatnie zmiany w dużych modelach językowych (LLM), Takie jak GPT-3 OpenAI, sprawiły, że sztuczna inteligencja znalazła się na czele społeczności zajmującej się cyberbezpieczeństwem. Modele te wykorzystują udokumentowane bezpieczeństwo cybernetyczne informacji, aby dowiedzieć się, jak odpowiadać na podpowiedzi dotyczące danego tematu. LLM potrafi również wyjaśnić złożone kwestie bezpieczeństwa w łatwym do zrozumienia języku, wprowadzając osoby niebędące ekspertami w świat bezpieczeństwo cybernetyczne.
Chociaż LLM-y nie są panaceum na cyberbezpieczeństwo, pozwalają szybko wykrywać i neutralizować cyberataki na dużą skalę. Niestety, jak w przypadku wszystkich postępów w świecie cyberbezpieczeństwa, cyberprzestępcy wykorzystują LLM-y do zwiększenia zasięgu i szybkości ataków, odnosząc pewne sukcesy już na wczesnym etapie.
Jedno z istotnych wyzwań związanych z dźwignią finansową Sztuczna inteligencja dla cyberbezpieczeństwa buduje zaufanie. Zaufanie jest wszystkim w bezpieczeństwie, a dostawcy od lat grają „szybko i luźno”. „AI/ML”, często wyolbrzymiając swoje możliwości zwiększania zainteresowania swoją ofertą. Ta praktyka spowodowała, że wielu decydentów zajmujących się cyberbezpieczeństwem jest sceptycznie nastawionych do wszelkich reklam technologii AI / ML możliwości. Ponadto dokładność i zrozumiałość to dwa istotne wyzwania dotyczące AI / ML. Dane używane do trenowania Modele AI/ML steruje wyjściem modeli. Jeśli dane treningowe nie reprezentują „rzeczywistego świata”, model rozwinie błąd, który może zniekształcić jego zdolność do dostarczania oczekiwanych wyników. Niektóre dane, takie jak informacje o zagrożeniach, charakterystyka dobrych i złych plików, wskaźniki naruszenia bezpieczeństwa (IOC) i tym podobne, są dostępne dla wszystkich. Jednak dane o zachowaniu użytkownika i podmiotu dotyczą tylko określonego użytkownika lub podmiotu.
Kolejnym istotnym wyzwaniem jest bezpieczeństwo danych. Określenie i kontrolowanie, jakie dane szkoleniowe mogą być udostępniane, a jakie pozostają w organizacjach, jest kluczowe. W niepowołanych rękach dane te mogą pomóc cyberprzestępcom w atakach mających na celu osłabienie zdolności sztucznej inteligencji/uczenia maszynowego do identyfikowania plików, aplikacji i zachowań jako szkodliwych. W związku z tym rządy i podmioty komercyjne muszą opracować przepisy, standardy i najlepsze praktyki, aby przeciwdziałać nowym zagrożeniom.
Na przykład, Rozszerzone wykrywanie i reagowanie (XDR) produkty umożliwiają użytkownikom niebędącym ekspertami dostarczanie wyników, które kiedyś były przeznaczone tylko dla wyższego personelu ds. bezpieczeństwa. Osoby niebędące ekspertami mogą przeprowadzać kompleksowe badania i udzielać odpowiedzi bez konieczności pisania skomplikowanych zapytań lub opracowywania skryptów. W rezultacie widzimy obecną lukę talentów między podażą a popytem na specjalistów ds. bezpieczeństwa.
Najnowsze osiągnięcia w dziedzinie sztucznej inteligencji przyspieszą proces automatyzacji, zwiększając skuteczność wykrywania i reagowania. O ile jednak gromadzenie danych, normalizacja, wykrywanie i automatyzacja korelacji są możliwe, złożone ataki na zamówienie wymagają zaangażowania profesjonalnych ekspertów ds. bezpieczeństwa. Ponadto atakujący często wykorzystują wektory ludzkie, co widać w głośnych atakach, takich jak SolarWinds i atak na Colonial Pipeline. Chociaż nie da się wyeliminować ryzyka nieumyślnego stania się częścią cyberataku przez użytkownika , ciągły rozwój technologii w połączeniu z dostępnością usług MDR/MSSP pozwala na ciągłe zmniejszanie prawdopodobieństwa, że działania użytkownika, celowe lub przypadkowe, doprowadzą do powszechnego naruszenia bezpieczeństwa.
Jeśli chodzi o wskaźniki postępu dot AI w cyberbezpieczeństwie, bezpieczeństwo postawa a budżet bezpieczeństwa jest ostatecznym sprawdzianem. Czy sztuczna inteligencja zapewnia lepsze wyniki, które są tańsze/szybsze niż alternatywa? Zespoły ds. bezpieczeństwa przedsiębiorstwa odzwierciedlają wpływ sztucznej inteligencji na rzeczywiste zmiany wskaźników wydajności, takie jak średni czas wykrywania i reagowania (MTTD i MTTRodpowiednio). MSSP mają najlepszą okazję do wyrażenia pozytywnego lub negatywnego wpływu sztucznej inteligencji na ich wyniki finansowe. Ponieważ świadczą usługi w celu zwiększenia przychodów, powinni zobaczyć namacalne implikacje finansowe po przyjęciu Cyberbezpieczeństwo oparte na sztucznej inteligencji Rozwiązania. W świecie cyberbezpieczeństwa nie ma magicznych rozwiązań. Dostawcy rozwiązań bezpieczeństwa, którzy promują dowolną technologię jako w 100% skuteczną lub twierdzą, że potrafią zapobiegać i wykrywać wszystkie naruszenia, powinni być wyśmiewani przez społeczność, ponieważ publicznie demonstrują swoje niezrozumienie cyberbezpieczeństwa. Niemniej jednak, ostatnie osiągnięcia w zakresie studiów licencjackich i magisterskich (LLM) i innych technologii sztucznej inteligencji (AI) mogą wpłynąć na szybkość i łatwość wykrywania i łagodzenia zagrożeń. Społeczność zajmująca się cyberbezpieczeństwem musi mieć zaufanie, dokładność i poczucie odpowiedzialności, aby w pełni wykorzystać potencjał sztucznej inteligencji. Ponadto zawsze będą występować złożone ataki wymagające zaangażowania człowieka, a wskaźniki postępu powinny koncentrować się na takich wskaźnikach, jak postawa bezpieczeństwa w porównaniu z budżetem na bezpieczeństwo i SOC automatyzacja. Sztuczna inteligencja może pomóc nam utrzymać bezpieczniejszy świat cyfrowy, stawiając czoła tym wyzwaniom i śledząc postępy.
