Autonomiczny system wspomagany przez człowieka SOC:Idealne połączenie technologii i człowieczeństwa

Tuż po przełomie wieków IBM wprowadziło termin „autonomiczne IT”. W tamtym czasie IBM uważało, że aplikacje, sieci i systemy IT stały się zbyt złożone, aby ludzie mogli nimi zarządzać, monitorować je lub zabezpieczać. IBM przedstawiło swoją koncepcję autonomicznego IT, przedstawiając wizję systemów IT, które mogłyby zarządzać sobą, oferując zaawansowane funkcje samokonfiguracji, samooptymalizacji, samonaprawiania i samoochrony – przyszłość autonomii, wydajności i harmonii IT na horyzoncie.

Wow, ta (i podobne) futurystyczna wizja IT była oszałamiająca! Maszyny zarządzające maszynami. Oprogramowanie zarządzające oprogramowaniem. Choć szczerze doceniałem tę wizję, musiałem ostudzić swój entuzjazm odrobiną realizmu. Zastanawiałem się: „Czy to naprawdę się stanie? Kiedy? I co tu może pójść nie tak?”. Wiedząc to, co wiedziałem wówczas o możliwościach i ograniczeniach technologii, zakładałem, że autonomiczne przetwarzanie rzeczywiście nastąpi.
choć nie miałem pojęcia kiedy.

Jeśli chodzi o to, co mogłoby pójść nie tak, to przychodzi mi na myśl tylko kontroler AI HAL 9000 z filmu Stanleya Kubricka „2001: Odyseja kosmiczna”. W początkowej fazie filmu HAL wykazuje bezbłędne i pomocne zachowanie. Nagle jednak zaczyna postrzegać ludzką załogę jako przeszkodę w misji, do której został zaprogramowany. W odpowiedzi HAL zaczyna działać przeciwko załodze, szpiegując ją i ostatecznie eliminując. Hmm, czy autonomiczne komputery IBM mogłyby odrzucić ludzi, bezkarnie rządzić IT i być może zniszczyć świat?

Film wszedł na ekrany w 1968 roku, gdy IBM ogłosił swoją wizję autonomii IT w 2001 roku. A potem przez ćwierć wieku nic się nie działo. W końcu, dwadzieścia pięć lat później, sztuczna inteligencja sprawia, że ​​marzenia o autonomii IT stają się rzeczywistością – no cóż, w pewnym sensie.

Weźmy na przykład domenę bezpieczeństwa. Terminy autonomiczny SOC i agenturalny SOC ewoluowały od marketingowego szumu do granicy rzeczywistości. W 2025 roku SOC Drugie piloty zyskały popularność, zapewniając generatywne odpowiedzi AI na monity analityków. W 2026 roku nastąpił dalszy rozwój innowacji wraz z wprowadzeniem agentów AI, którzy naśladowali zachowania analityków, wykonując niektóre zadania związane z analizą danych i przepływem pracy. To dopiero początek. W niedalekiej przyszłości agentowy SOC Funkcje te obiecują wspinanie się po szczeblach kariery, wykonywanie zadań takich jak wykrywanie zagrożeń, koordynacja przepływów pracy i łatanie podatnych systemów.

Biorąc pod uwagę obecny postęp i przyszłe innowacje, jasne jest, że agenci AI z czasem staną się mądrzejsi i bardziej zdolni, co doprowadzi do inteligentniejszych i bardziej autonomicznych SOCs. Skoro przyszłość jest o wiele pewniejsza niż przeszłe spekulacje i science fiction, czy ludzie nadal będą pełnić rolę w operacjach bezpieczeństwa, czy też wizja IBM i Kubricka dotycząca pełnej autonomii stanie się rzeczywistością?

Pozwólcie, że wyjaśnię sprawę. Sztuczna inteligencja znacznie poprawi inteligencję, skalę i szybkość operacji bezpieczeństwa, ale ludzie zawsze będą niezbędni. SOC podejmowanie decyzji. Właściwie powinniśmy przestać mówić o autonomii SOC i zmienić terminologię na autonomię rozszerzoną o człowieka SOC. To lepiej oddaje prawdziwą relację – sztuczna inteligencja staje się coraz potężniejszym narzędziem, umożliwiającym ludziom SOC personelu, co znacznie poprawi skuteczność i wydajność operacji bezpieczeństwa.

Z biegiem czasu relacja między ludźmi a sztuczną inteligencją będzie ewoluować wraz z rozwojem funkcjonalności i możliwości agentów bezpieczeństwa. W miarę postępu, ludzkie dane wejściowe ulegną następującym zmianom:

1. Prezent:

Ludzie zapewniają sztucznej inteligencji odpowiednią infrastrukturę danych: Oto brudny sekret: agentowa sztuczna inteligencja nie może być dokładna ani wartościowa w przypadku fragmentarycznych schematów danych, uszkodzonych korelacji lub brakujących danych telemetrycznych. Dlatego ludzkie wysiłki (obecnie i w najbliższej przyszłości) zaczynają się od działań takich jak orkiestracja potoków, normalizacja schematów, grafy encji i zasobów oraz indeksowanie semantyczne i wektorowe bazy danych. Ponadto organizacje muszą dążyć do higieny danych i redukcji szumów. Ten fundament inżynierii i zarządzania danymi jest kluczowy dla tworzenia dokładnych i aktualnych modeli, umożliwiających agentom bezpieczeństwa wykonywanie ich zadań.

2. 2026–2027:

Automatyzacja analityków poziomu 1 trwa. To już się dzieje i będzie kontynuowane w przyszłym roku. W tej fazie agenci SOC Narzędzia automatyzują zadania triażu poziomu 1 poprzez wzbogacenie alertów o informacje o zagrożeniach i uwzględnienie dodatkowego kontekstu (np. lokalizacji zasobów, tożsamości, danych telemetrycznych z innych narzędzi itp.). Celem jest przyspieszenie i skalowanie triażu alertów z prędkością maszynową. Agenci będą tworzyć zgłoszenia, dostarczać raporty podsumowujące dochodzenia i obliczać wskaźniki ryzyka. Wszystkie te działania znacznie usprawniają pracę starszych pracowników. SOC Analitycy, którzy następnie wykorzystują ludzką ocenę, aby dodać kontekst (i doświadczenie) do wyników uzyskanych za pomocą sztucznej inteligencji, a następnie podejmują i wdrażają decyzje dotyczące działań naprawczych.

3. 2027-2028

Rozpoczyna się automatyczna naprawa. Po fazie szkolenia i inżynierii, agenci mogą stopniowo, autonomicznie podejmować działania naprawcze (tj. poddawać system kwarantannie, blokować adresy IP itp.). Działania te są jednak uważane za podstawowe zadania naprawcze i są automatyzowane tylko w przypadku kombinacji ataków o wysokim poziomie ufności powiązanych z zasobami o niskiej wartości. Wszystkie działania naprawcze muszą być również oparte na dobrze zdefiniowanym modelu zarządzania, wspieranym przez egzekwowanie polityk, monitorowanie i dostrajanie systemu – wszystko pod nadzorem doświadczonych inżynierów i analityków bezpieczeństwa. Współpracując z agentami AI, zespoły bezpieczeństwa nabiorą pewności co do zautomatyzowanego działania naprawczego i będą stopniowo dostosowywać mechanizmy bezpieczeństwa, aby zmechanizować więcej działań. Nadal będzie wymagane stosowanie punktów kontrolnych HITL (human-in-the-loop) w przypadku wszelkich podejrzanych zachowań, które wymagają ludzkiej intuicji i doświadczenia.

4. 2028 i później.

Odsetek zautomatyzowanych działań będzie nadal rósł, zwiększając wydajność człowieka, ale HITL utrzymuje się w przypadku wszystkich wątpliwych przypadków. Symbioza między agentami AI a ludźmi znacznie przyspiesza w tym okresie, ponieważ agenci uczą się więcej o współpracy z ludźmi, a ludzie o współpracy z agentami. Należy zauważyć, że wraz z pełnym wykorzystaniem sztucznej inteligencji przez przeciwników, liczba wątpliwych incydentów zachowań będzie rosła, co zwiększy nadzór ludzki, zapotrzebowanie na zaawansowane umiejętności i usprawnienia we współpracy między ludźmi a agentami. Organizacje opierające się na agentach SOC Narzędzia mogą wyciągać trudne wnioski z „samozadowolenia z automatyzacji”, pozwalając agentom na podejmowanie działań o negatywnym skutku (np. wyłączanie krytycznych systemów, blokowanie legalnego ruchu itp.). Jednocześnie środowisko IT i powierzchnia ataku będą stawać się coraz bardziej złożone wraz z upowszechnianiem się sztucznej inteligencji. Oznacza to, że agenci muszą być stale dostrajani za pomocą uczenia wzmacniającego – ponownie, kierowanego przez doświadczonych ludzi. W sumie ludzie i agenci tworzą korzystny dla obu stron zespół, w którym dążą do ciągłego doskonalenia agentów poprzez zadania takie jak orkiestracja agentów, szkolenie modeli sztucznej inteligencji, wyszukiwanie zagrożeń, red teaming i zarządzanie.
Do 2026 roku IBM nie osiągnął jeszcze autonomicznego przetwarzania, a wizja Stanleya Kubricka pozostaje filmem science fiction. Jeśli chodzi o SOCLudzie nigdzie się nie wybierają, choć ich role będą dynamicznie się zmieniać. Wszelkie przeciwne prognozy to jedynie iluzje marketingowe. W tym scenariuszu agenci mówią ludziom: „Pomóż mi pomóc tobie”. Innymi słowy, im więcej ludzi i agentów współpracuje w celu usprawnienia operacji bezpieczeństwa, tym większe organizacje mogą oczekiwać usprawnień w zapobieganiu zagrożeniom, ich wykrywaniu i reagowaniu na nie.
Przewiń do góry