Intelligence artificielle (AI) a transformé le les services de cybersécurité paysage depuis plus d'une décennie, avec apprentissage automatique (ML) accélérer la détection des menaces et identifier les comportements anormaux des utilisateurs et des entités. Cependant, les développements récents dans les grands modèles de langage (LLM) tels que GPT-3 d'OpenAI, ont propulsé l'IA au premier plan de la communauté de la cybersécurité. Ces modèles utilisent des documents les services de cybersécurité informations pour savoir comment répondre aux invites sur le sujet. LLM peut également expliquer des problèmes de sécurité complexes dans un langage facile à comprendre, amenant le non-expert dans le monde de les services de cybersécurité.
Si LLM ne sont pas une solution miracle pour la cybersécurité, ils peuvent rapidement détecter et atténuer les cyberattaques à grande échelle. Malheureusement, comme pour toutes les avancées dans le monde de la cybersécurité, les mauvais acteurs utilisent LLM pour augmenter l'ampleur et la vitesse de leurs attaques avec un certain succès précoce.
L'un des principaux défis liés à l'exploitation L'IA pour la cybersécurité construit la confiance. La confiance est primordiale en matière de sécurité, et pendant des années, les fournisseurs ont joué "rapidement et librement" avec "IA/ML", exagérant souvent leurs capacités à susciter un intérêt accru pour leurs offres. Cette pratique a amené de nombreux décideurs en matière de cybersécurité à se méfier de toute technologie vantant AI / ML capacités. De plus, l'exactitude et l'explicabilité sont deux défis importants concernant AI / ML. Les données utilisées pour s'entraîner Modèles IA/ML pilote la sortie des modèles. Si les données de formation ne représentent pas le « monde réel », le modèle développera un biais qui peut fausser sa capacité à fournir les résultats attendus. Certaines données, telles que les renseignements sur les menaces, les bonnes et mauvaises caractéristiques des fichiers, les indicateurs de compromission (IOC), etc., s'adressent à tout le monde. Cependant, les données de comportement des utilisateurs et des entités ne s'appliquent qu'à l'utilisateur ou à l'entité spécifique.
Un autre défi important est la sécurité des données. Il est essentiel de définir et de contrôler quelles données de formation peuvent être partagées et quelles données restent avec les organisations. Entre de mauvaises mains, ces données pourraient aider les mauvais acteurs dans leurs attaques à subvertir IA/ML capacité à identifier leurs fichiers, applications et comportements comme néfastes. Par conséquent, les gouvernements et les entités commerciales doivent élaborer des réglementations, des normes et des meilleures pratiques pour contrecarrer les nouvelles menaces.
Par exemple, Détection et réponse étendues (XDR) Les produits permettent aux utilisateurs non experts d'obtenir des résultats autrefois réservés au personnel de sécurité senior. Les non-experts peuvent effectuer des enquêtes et des réponses complètes sans écrire de requêtes complexes ni développer de scripts. En conséquence, nous pouvons voir l'écart de talents actuel entre l'offre et la demande de professionnels de la sécurité.
Articles de Développements de l'IA accélérera le processus d'automatisation, rendant la détection et la réponse plus rapides et plus efficaces. Cependant, bien que la collecte, la normalisation, la détection et l'automatisation des corrélations de données soient possibles, des attaques complexes sur mesure nécessitent l'intervention d'experts en sécurité professionnels. De plus, les attaquants exploitent fréquemment des vecteurs humains, comme on le voit dans les attaques de grande envergure telles que SolarWinds et l'attaque du pipeline colonial. Bien qu'il soit impossible d'éliminer la possibilité qu'un utilisateur devienne par inadvertance membre d'un cyberattaque, les progrès technologiques continus associés à la disponibilité de Services MDR/MSSP permet de réduire continuellement la probabilité que les actions d'un utilisateur, qu'elles soient intentionnelles ou accidentelles, conduisent à une violation généralisée.
En ce qui concerne les indicateurs de progrès pour L'IA dans la cybersécurité, sécurité posture vs budget de sécurité est l'ultime épreuve. L'IA offre-t-elle de meilleurs résultats qui sont moins chers/plus rapides que l'alternative ? Les équipes de sécurité d'entreprise représentent l'impact de l'IA dans les modifications réelles des mesures de performances, telles que le temps moyen de détection et de réponse (MTTD et MTTR, respectivement). Les MSSP ont la meilleure opportunité d'articuler l'impact de l'IA sur leur résultat net, positif ou négatif. Puisqu'ils fournissent des services pour générer des revenus, ils devraient voir les implications financières tangibles après l'adoption Cybersécurité basée sur l'IA Il n'existe pas de solution miracle en cybersécurité. Les fournisseurs de solutions de sécurité qui présentent une technologie comme étant efficace à 100 % ou qui prétendent pouvoir prévenir et détecter toutes les violations devraient être décriés par la communauté, car ils démontrent leur méconnaissance flagrante de la cybersécurité. Cela dit, les récents développements en matière de modélisation de l'apprentissage automatique (LLM) et d'autres technologies d'IA peuvent améliorer la rapidité et la facilité de détection et d'atténuation des menaces. La communauté de la cybersécurité doit bénéficier de la confiance, de la précision et de la responsabilité nécessaires pour exploiter pleinement le potentiel de l'IA. De plus, il y aura toujours des attaques complexes nécessitant une intervention humaine, et les indicateurs de progrès devraient se concentrer sur des métriques telles que le niveau de sécurité par rapport au budget alloué à la sécurité. SOC L’automatisation et l’IA peuvent nous aider à maintenir un monde numérique plus sûr en relevant ces défis et en suivant les progrès accomplis.
