인공 지능(AI) 를 변형해 왔다. 사이버 보안 XNUMX년이 넘는 풍경과 머신 러닝 (ML) 위협 탐지 속도를 높이고 비정상적인 사용자 및 엔터티 동작을 식별합니다. 그러나 최근 대규모 언어 모델의 발전 (LLM)같은 OpenAI의 GPT-3, AI를 사이버 보안 커뮤니티의 최전선으로 가져왔습니다. 이 모델은 문서화된 사용 사이버 보안 주제에 대한 프롬프트에 응답하는 방법을 배우기 위한 정보. LLM 또한 복잡한 보안 문제를 이해하기 쉬운 언어로 설명할 수 있어 비전문가도 사이버 보안.
DaVinci에는 LLM 사이버 보안을 위한 묘책은 아니지만 대규모 사이버 공격을 신속하게 탐지하고 완화할 수 있습니다. 불행하게도 사이버 보안 세계의 모든 발전과 마찬가지로 나쁜 행위자들은 다음을 사용하고 있습니다. LLM 초기 성공으로 공격의 폭과 속도를 높일 수 있습니다.
활용에 있어 중요한 과제 중 하나는 사이버 보안을 위한 AI 신뢰를 쌓아가고 있습니다. 신뢰는 보안의 모든 것입니다. 수년 동안 공급업체는 "빠르고 느슨하게" "AI/ML", 제품에 대한 관심을 높이는 능력을 과장하는 경우가 많습니다. 이 관행으로 인해 많은 사이버 보안 의사 결정권자는 기술 선전에 회의적이었습니다. AI / ML 능력. 또한 정확성과 설명 가능성은 다음과 같은 두 가지 중요한 과제입니다. AI / ML. 학습에 사용되는 데이터 AI/ML 모델 모델의 출력을 구동합니다. 교육 데이터가 "실제 세계"를 나타내지 않는 경우 모델은 예상 결과를 제공하는 능력을 왜곡할 수 있는 편향을 개발합니다. 위협 정보, 양호/불량 파일 특성, IOC(Indicator of Compromise) 등과 같은 일부 데이터는 모두에게 공개됩니다. 그러나 사용자 및 엔터티 동작 데이터는 특정 사용자 또는 엔터티에만 적용됩니다.
또 다른 중요한 문제는 데이터 보안입니다. 공유할 수 있는 교육 데이터와 조직에 보관할 데이터를 정의하고 제어하는 것이 중요합니다. 잘못된 손에 들어가면 이 데이터는 악의적인 공격자가 AI/ML 파일, 응용 프로그램 및 동작을 악의적인 것으로 식별하는 기능. 결과적으로 정부와 상업 기관은 새로운 위협을 저지하기 위한 규정, 표준 및 모범 사례를 구축해야 합니다.
예를 들어, 확장된 탐지 및 대응(XDR) 제품을 사용하면 비전문가 사용자가 고위 보안 담당자만 생각했던 결과를 제공할 수 있습니다. 비전문가는 복잡한 쿼리를 작성하거나 스크립트를 개발하지 않고도 포괄적인 조사 및 응답을 완료할 수 있습니다. 결과적으로 현재 보안 전문가의 수요와 공급 사이에 인재 격차가 있음을 알 수 있습니다.
최근 AI 개발 자동화 프로세스를 가속화하여 탐지 및 대응을 더 빠르고 효과적으로 만듭니다. 그러나 데이터 수집, 정규화, 탐지 및 상관 관계 자동화가 가능하지만 복잡한 맞춤형 공격에는 전문 보안 전문가의 개입이 필요합니다. 또한 공격자는 SolarWinds 및 Colonial Pipeline 공격과 같은 세간의 이목을 끄는 공격에서 볼 수 있듯이 인간 벡터를 자주 악용합니다. 사용자가 의도하지 않게 사이버 공격, 가용성과 결합된 지속적인 기술 발전 MDR/MSSP 서비스 의도적이든 우발적이든 사용자의 행동이 광범위한 위반으로 이어질 가능성을 지속적으로 줄일 수 있습니다.
진행률 지표에 대해 사이버 보안 분야의 AI, 보안 자세 대 보안 예산 궁극의 시험이다. AI가 대안보다 저렴하고 빠른 더 나은 결과를 제공합니까? 엔터프라이즈 보안 팀은 평균 탐지 및 대응 시간과 같은 실제 성능 지표 변화에 AI 영향을 나타냅니다(MTTD 및 MTTR, 각각). MSSP는 AI가 수익에 긍정적 또는 부정적으로 미치는 영향을 명확히 설명할 수 있는 최고의 기회를 가집니다. 그들은 수익을 창출하기 위해 서비스를 제공하기 때문에 채택 후 실질적인 재무적 영향을 확인해야 합니다. AI 기반 사이버 보안 해결책은 다양합니다. 사이버 보안 세계에는 만능 해결책이 없습니다. 어떤 기술이든 100% 효과적이라고 홍보하거나 모든 침해를 예방하고 탐지할 수 있다고 주장하는 보안 업체는 사이버 보안에 대한 오해를 만천하에 드러내는 것이므로 비난받아야 마땅합니다. 하지만 최근 LLM(Learning Leadership Model) 및 기타 AI 기술의 발전은 위협을 탐지하고 완화하는 속도와 편의성에 큰 영향을 미칠 수 있습니다. 사이버 보안 커뮤니티는 AI의 잠재력을 최대한 활용하기 위해 신뢰, 정확성, 책임감을 갖춰야 합니다. 또한, 인간의 개입이 필요한 복잡한 공격은 항상 존재할 것이며, 진행 상황 지표는 보안 태세 대비 보안 예산과 같은 지표에 초점을 맞춰야 합니다. SOC 자동화. 인공지능은 이러한 과제들을 해결하고 진행 상황을 추적함으로써 더욱 안전한 디지털 세상을 유지하는 데 도움을 줄 수 있습니다.
