스텔라 사이버 오픈 XDR - 로고
검색
이 검색 상자를 닫습니다.

사이버 보안에서 AI/ML의 잠재력 잠금 해제: 과제, 기회 및 진행률 지표

사이버 보안에서 AI/ML의 잠재력 잠금 해제: 과제, 기회 및 진행률 지표
인공 지능(AI)
를 변형해 왔다. 사이버 보안 XNUMX년이 넘는 풍경과 머신 러닝 (ML) 위협 탐지 속도를 높이고 비정상적인 사용자 및 엔터티 동작을 식별합니다. 그러나 최근 대규모 언어 모델의 발전 (LLM)같은 OpenAI의 GPT-3, AI를 사이버 보안 커뮤니티의 최전선으로 가져왔습니다. 이 모델은 문서화된 사용 사이버 보안 주제에 대한 프롬프트에 응답하는 방법을 배우기 위한 정보. LLM 또한 복잡한 보안 문제를 이해하기 쉬운 언어로 설명할 수 있어 비전문가도 사이버 보안.

DaVinci에는 LLM 사이버 보안을 위한 묘책은 아니지만 대규모 사이버 공격을 신속하게 탐지하고 완화할 수 있습니다. 불행하게도 사이버 보안 세계의 모든 발전과 마찬가지로 나쁜 행위자들은 다음을 사용하고 있습니다. LLM 초기 성공으로 공격의 폭과 속도를 높일 수 있습니다.


활용에 있어 중요한 과제 중 하나는 사이버 보안을 위한 AI 신뢰를 쌓아가고 있습니다. 신뢰는 보안의 모든 것입니다. 수년 동안 공급업체는 "빠르고 느슨하게"  "AI/ML", 제품에 대한 관심을 높이는 능력을 과장하는 경우가 많습니다. 이 관행으로 인해 많은 사이버 보안 의사 결정권자는 기술 선전에 회의적이었습니다. AI / ML 능력. 또한 정확성과 설명 가능성은 다음과 같은 두 가지 중요한 과제입니다. AI / ML. 학습에 사용되는 데이터 AI/ML 모델 모델의 출력을 구동합니다. 교육 데이터가 "실제 세계"를 나타내지 않는 경우 모델은 예상 결과를 제공하는 능력을 왜곡할 수 있는 편향을 개발합니다. 위협 정보, 양호/불량 파일 특성, IOC(Indicator of Compromise) 등과 같은 일부 데이터는 모두에게 공개됩니다. 그러나 사용자 및 엔터티 동작 데이터는 특정 사용자 또는 엔터티에만 적용됩니다.  

또 다른 중요한 문제는 데이터 보안입니다. 공유할 수 있는 교육 데이터와 조직에 보관할 데이터를 정의하고 제어하는 ​​것이 중요합니다. 잘못된 손에 들어가면 이 데이터는 악의적인 공격자가 AI/ML 파일, 응용 프로그램 및 동작을 악의적인 것으로 식별하는 기능. 결과적으로 정부와 상업 기관은 새로운 위협을 저지하기 위한 규정, 표준 및 모범 사례를 구축해야 합니다.

예를 들어, 확장 감지 및 응답(XDR) 제품을 사용하면 비전문가 사용자가 고위 보안 담당자만 생각했던 결과를 제공할 수 있습니다. 비전문가는 복잡한 쿼리를 작성하거나 스크립트를 개발하지 않고도 포괄적인 조사 및 응답을 완료할 수 있습니다. 결과적으로 현재 보안 전문가의 수요와 공급 사이에 인재 격차가 있음을 알 수 있습니다.

최근 AI 개발 자동화 프로세스를 가속화하여 탐지 및 대응을 더 빠르고 효과적으로 만듭니다. 그러나 데이터 수집, 정규화, 탐지 및 상관 관계 자동화가 가능하지만 복잡한 맞춤형 공격에는 전문 보안 전문가의 개입이 필요합니다. 또한 공격자는 SolarWinds 및 Colonial Pipeline 공격과 같은 세간의 이목을 끄는 공격에서 볼 수 있듯이 인간 벡터를 자주 악용합니다. 사용자가 의도하지 않게 사이버 공격, 가용성과 결합된 지속적인 기술 발전 MDR/MSSP 서비스 의도적이든 우발적이든 사용자의 행동이 광범위한 위반으로 이어질 가능성을 지속적으로 줄일 수 있습니다. 

진행률 지표에 대해 사이버 보안 분야의 AI, 보안 자세 대 보안 예산 궁극의 시험이다. AI가 대안보다 저렴하고 빠른 더 나은 결과를 제공합니까? 엔터프라이즈 보안 팀은 평균 탐지 및 대응 시간과 같은 실제 성능 지표 변화에 AI 영향을 나타냅니다(MTTD 및 MTTR, 각각). MSSP는 AI가 수익에 긍정적 또는 부정적으로 미치는 영향을 명확히 설명할 수 있는 최고의 기회를 가집니다. 그들은 수익을 창출하기 위해 서비스를 제공하기 때문에 채택 후 실질적인 재무적 영향을 확인해야 합니다. AI 기반 사이버 보안 솔루션. 사이버 보안 세계에는 마법의 총알이 없습니다. 모든 기술이 100% 효과적이라고 홍보하거나 모든 침해를 예방하고 탐지할 수 있다고 주장하는 보안 공급업체는 모두가 볼 수 있도록 사이버 보안에 대한 오해를 드러내므로 커뮤니티에서 조롱해야 합니다. 즉, LLM 및 기타 AI 기술의 최근 발전은 위협을 탐지하고 완화하는 속도와 용이성에 영향을 미칠 수 있습니다. 사이버 보안 커뮤니티는 AI의 잠재력을 최대한 활용하기 위해 신뢰, 정확성 및 책임을 갖추어야 합니다. 또한 사람의 개입이 필요한 복잡한 공격이 항상 있을 것이며 진행률 지표는 보안 태세 대 보안 예산 및 SOC 자동화와 같은 지표에 초점을 맞춰야 합니다. AI는 이러한 문제를 해결하고 진행 상황을 추적하여 보다 안전한 디지털 세상을 유지하는 데 도움을 줄 수 있습니다.

위쪽으로 스크롤