Inteligencia Artificial (AI) ha ido transformando la los riesgos de seguridad cibernética paisaje durante más de una década, con aprendizaje automático (ML) acelerar la detección de amenazas e identificar comportamientos anómalos de usuarios y entidades. Sin embargo, desarrollos recientes en modelos de lenguajes grandes (LLM), como GPT-3 de OpenAI, han llevado a la IA al frente de la comunidad de ciberseguridad. Estos modelos utilizan documentado los riesgos de seguridad cibernética información para aprender a responder a las indicaciones sobre el tema. LLM también puede explicar problemas de seguridad complejos en un lenguaje fácil de entender, acercando al no experto al mundo de los riesgos de seguridad cibernética.
Si bien los LLM no son la solución definitiva para la ciberseguridad, pueden detectar y mitigar rápidamente los ciberataques a gran escala. Desafortunadamente, como ocurre con todos los avances en el mundo de la ciberseguridad, los ciberdelincuentes están utilizando los LLM para aumentar el alcance y la velocidad de sus ataques, con cierto éxito inicial.
Uno de los desafíos importantes en el aprovechamiento IA para ciberseguridad es generar confianza. La confianza lo es todo en seguridad y, durante años, los proveedores han jugado "rápido y suelto" con “IA/ML”, a menudo exagerando sus capacidades para impulsar un mayor interés en sus ofertas. Esta práctica ha provocado que muchos responsables de la toma de decisiones en ciberseguridad se muestren escépticos ante cualquier tecnología que promueva AI / ML capacidades. Además, la precisión y la explicabilidad son dos desafíos importantes con respecto a AI / ML. Los datos utilizados para entrenar Modelos de IA/ML impulsa la salida de los modelos. Si los datos de entrenamiento no representan el "mundo real", el modelo desarrollará un sesgo que puede sesgar su capacidad para generar los resultados esperados. Algunos datos, como la información sobre amenazas, las características buenas y malas de los archivos, los indicadores de compromiso (IOC) y similares, son para todos. Sin embargo, los datos de comportamiento de usuarios y entidades solo se aplican al usuario o entidad específicos.
Otro desafío importante es la seguridad de los datos. Es fundamental definir y controlar qué datos de entrenamiento se pueden compartir y cuáles permanecen en las organizaciones. En manos equivocadas, estos datos podrían ayudar a ciberdelincuentes en sus ataques a eludir la capacidad de la IA/ML para identificar sus archivos, aplicaciones y comportamientos como maliciosos. Por consiguiente, los gobiernos y las entidades comerciales deben establecer regulaciones, estándares y mejores prácticas para contrarrestar las nuevas amenazas.
Por ejemplo, Detección y respuesta extendidas (XDR) Los productos permiten a los usuarios no expertos ofrecer resultados que alguna vez se pensaron solo para el personal de seguridad senior. Los no expertos pueden completar investigaciones y respuestas integrales sin escribir consultas complejas o desarrollar guiones. Como resultado, podemos ver la brecha de talento actual entre la oferta y la demanda de profesionales de la seguridad.
Los recientes avances en IA acelerarán el proceso de automatización, lo que permitirá una detección y respuesta más rápidas y efectivas. Sin embargo, si bien es posible automatizar la recopilación, normalización, detección y correlación de datos, los ataques complejos y personalizados requieren la participación de expertos en seguridad. Además, los atacantes explotan con frecuencia las vulnerabilidades humanas, como se ha visto en ataques de gran repercusión como los de SolarWinds y Colonial Pipeline. Si bien es imposible eliminar la posibilidad de que un usuario se vea involucrado inadvertidamente en un ciberataque , el continuo avance tecnológico, junto con la disponibilidad de servicios MDR/MSSP, permite reducir progresivamente la probabilidad de que las acciones de un usuario, ya sean intencionadas o accidentales, provoquen una brecha de seguridad generalizada.
En cuanto a los indicadores de progreso para IA en ciberseguridad, seguridad postura versus presupuesto de seguridad es la prueba definitiva. ¿La IA ofrece mejores resultados que son más baratos o más rápidos que la alternativa? Los equipos de seguridad empresarial representan el impacto de la IA en los cambios de métricas de rendimiento reales, como el tiempo medio para detectar y responder (MTTD y MTTR, respectivamente). Los MSSP tienen la mejor oportunidad de articular el impacto de la IA en sus resultados, de manera positiva o negativa. Dado que brindan servicios para generar ingresos, deben ver las implicaciones financieras tangibles después de adoptar Ciberseguridad impulsada por IA Soluciones. No existen fórmulas mágicas en el mundo de la ciberseguridad. Los proveedores de seguridad que promocionan cualquier tecnología como 100 % efectiva o afirman la capacidad de prevenir y detectar todas las brechas deberían ser ridiculizados por la comunidad, ya que demuestran su incomprensión de la ciberseguridad a la vista de todos. Dicho esto, los recientes avances en LLM y otras tecnologías de IA pueden afectar la velocidad y la facilidad con la que se detectan y mitigan las amenazas. La comunidad de la ciberseguridad debe tener confianza, precisión y responsabilidad para aprovechar todo el potencial de la IA. Además, siempre habrá ataques complejos que requieran intervención humana, y los indicadores de progreso deben centrarse en métricas como la postura de seguridad frente al presupuesto de seguridad y SOC automatización. La IA puede ayudarnos a mantener un mundo digital más seguro al abordar estos desafíos y realizar un seguimiento del progreso.
