Los sistemas de ciberseguridad están a punto de sufrir una disrupción. Con el paso de los años, se han multiplicado las herramientas, cada una con su propio formato de datos, generando una avalancha de información diversa. Además, existe una escasez global de analistas de ciberseguridad cualificados para evaluar estos datos (y, si es que se les encuentra, son muy caros). Por último, los hackers son cada vez más sofisticados y creativos. Se suponía que la IA sería la solución a estos problemas, pero su utilidad para abordarlos a gran escala ha sido limitada, ya que requiere una infraestructura amplia y cuidadosamente planificada. En este artículo, analizaremos el papel de la IA en los sistemas de ciberseguridad y cómo puede convertirse en una tecnología verdaderamente transformadora.
IA como aceite de serpiente
La IA se menciona mucho en la literatura de marketing que describe las soluciones de ciberseguridad, pero hasta ahora no ha sido tan transformadora como podría pensar. A pesar de un tamaño de mercado que crece a un ritmo Tasa de crecimiento anual compuesta del 20.5 por ciento, la IA sigue siendo operacionalmente difícil de implementar en problemas de seguridad. Si entraras en un moderno centro de operaciones de seguridad (SOC), probablemente encontrará algunos televisores grandes con algunos paneles de control y CNN difíciles de leer, y analistas de seguridad que probablemente encuentren su trabajo doloroso, porque pasan su tiempo correlacionando datos manualmente y tratando de discernir qué está sucediendo en su empresa en frente a ataques cada vez más complejos. Si los humanos están haciendo eso, eso plantea la pregunta, "¿Dónde está la IA?"
La ciberseguridad es un problema operativo complejo, y esa es la razón principal por la que la IA ha tardado en transformarla. Detectar amenazas en una empresa a través de cientos de fuentes de telemetría, cuando estas a menudo se asemejan a la actividad normal, es un problema muy difícil. Además, los datos de cada herramienta de seguridad pueden presentarse en formatos diferentes y deben normalizarse antes de poder utilizarse para entrenar un sistema de IA.
Independientemente del sector y el caso de uso, la IA aprende de los datos: el motor de IA debe entrenarse con datos para que pueda aprender a distinguir entre anomalías y anomalías. Ahí radica la complejidad del problema de la seguridad: los datos de seguridad de cada empresa son, como mínimo, ligeramente diferentes, con distintas herramientas y patrones de comportamiento, y, en el peor de los casos, presentan diferencias abismales. No existe un conjunto de datos de entrenamiento ideal en seguridad que pueda licenciarse, como sí ocurre con los sistemas de reconocimiento de imágenes o voz. Si se desea utilizar la IA para abordar el problema de la seguridad, es necesario crear y adquirir datos propios.
Normalizar los datos para que sean útiles para un motor de IA es un desafío enorme. Este problema es tan importante que Scale AI, una startup que crea API de datos para el desarrollo de IA, centrada principalmente en aplicaciones para vehículos autónomos, alcanzó una valoración de 7 mil millones de dólares menos de cinco años después de su fundación . Scale AI ya cuenta entre sus clientes con muchas de las organizaciones más innovadoras del mundo.
Lo que tomará la IA transformadora
La IA en seguridad eventualmente será transformadora, probablemente tanto para la ofensiva como para la defensiva, pero esa es una historia para otro día. Aquí, "transformador" significa ampliamente transformador, en todas las partes de la seguridad, por lo que altera fundamentalmente la forma en que una empresa se ocupa de la seguridad. Por ahora, tenemos que contentarnos con algunas aplicaciones limitadas donde la IA puede mejorar la seguridad.
Aun así, la IA ofrece algunas ventajas en el ámbito de la seguridad; resulta fácil identificarlas analizando el problema de los datos. ¿Qué componentes de la infraestructura de seguridad generan datos limpios y aptos para el entrenamiento? El fraude por correo electrónico y la detección de malware son dos excelentes ejemplos: el motor de IA puede aprender de ejemplos de phishing o firmas de malware disponibles e identificar exploits similares. Los datos de correos electrónicos de clientes y entornos de pruebas de malware pueden utilizarse para entrenar modelos de IA que impulsan los productos empresariales. Este mismo entrenamiento es mucho más complejo de implementar en problemas como la detección de ataques que se propagan lateralmente a través de una red (por ejemplo, del firewall al servidor de Active Directory y luego a un servidor de datos), ya que este movimiento lateral se manifiesta de forma ligeramente diferente en cada empresa.
La creación de IA que proteja de forma integral a una empresa en todas sus operaciones digitales se asemejará, en cierto modo, a los esfuerzos que realizan actualmente las empresas de vehículos autónomos. Por ejemplo, desde 2009, el software de Waymo para vehículos autónomos se ha entrenado con más de 15 millones de millas de conducción simulada y más de 20 millones de millas de experiencia de conducción en vías públicas . Waymo aplica un enfoque riguroso a las pruebas con diferentes niveles de fidelidad (simulación, circuito cerrado, mundo real), ejecutando escenarios con miles de variaciones y recopilando datos para su mejora continua.
Esta no es una analogía perfecta para la IA en seguridad, pero es bastante buena: pruebas con datos simulados, pruebas en entornos de laboratorio con ataques simulados o reales, y pruebas en operaciones del mundo real en un conjunto diverso de empresas. Los problemas de seguridad con acceso natural a datos más limpios surgirán con productos verdaderamente impulsados por IA antes que los problemas de datos más difíciles en toda la pila de seguridad empresarial. Llevará tiempo y capital llegar allí, y las innovaciones que se centren despiadadamente en el problema de los datos serán, ante todo, las que desbloqueen una amplia transformación. Hoy en día, muchas herramientas de seguridad simplemente no se enfocan en la normalización de datos porque tienden a estar aisladas en puntos débiles específicos en la infraestructura general.
Cómo se verá la IA transformadora en seguridad
Imagine que cada iniciativa de TI, configuración, registro de seguridad y alerta pudiera ser revisado por el experto en seguridad humana líder en el mundo en esa área determinada en tiempo real, sin interrupción de las operaciones comerciales. Imagine que los analistas empresariales pudieran consultar y obtener instrucciones de ese experto. AI en seguridad eventualmente se sentirá así.
¿Cómo? Los productos que se basan en conjuntos de datos bien pensados, que reducen la complejidad de los datos, serán, en última instancia, los líderes de su categoría. De lo contrario, el producto no funcionará para todos los clientes y tendrá márgenes similares a los de un servicio, sin escalabilidad. (Curiosamente, Andreesen Horowitz descubrió que la mayoría de sus empresas de IA empresarial tienen márgenes mucho más bajos que las empresas SaaS comparables debido a los costos inherentes al desarrollo y la escalabilidad de la IA ).
Estos futuros reyes de la categoría primero tendrán que invertir en infraestructura y recopilación de datos, probablemente durante años, antes de que sus datos puedan realmente considerarse un activo y ayudar en la naturaleza de mejora de su producto. Sin embargo, una vez que estos reyes de la empresa obtengan un activo de datos real para la IA, su ritmo de innovación será difícil, si no imposible, de igualar por parte de los competidores, y serán coronados como reyes de la categoría, siempre que aún logren mantener un producto intuitivo. Entonces, así como la categoría de motores de búsqueda se consolidó rápidamente en Google, lo mismo sucederá con las soluciones de ciberseguridad con uso intensivo de datos. Específicamente, busque una mayor consolidación en Seguridad de la Información y Gestión de eventos (SIEM), Detección y respuesta ampliadas (XDR), Detección y respuesta de punto final (EDR), y Detección y respuesta de red (NDR) mercados.
Así pues, la IA está emergiendo en el ámbito de la seguridad, inicialmente para problemas más pequeños con menor complejidad de datos, como se observó en los ejemplos de fraude por correo electrónico y malware. Posteriormente, la IA se irá implementando gradualmente para problemas de datos más complejos, pero solo los productos centrados rigurosamente en la gestión de la complejidad de los datos contarán con motores de IA eficaces. Para ser efectivo, un programa de seguridad basado en IA debe ser capaz de recopilar datos de todas las herramientas de seguridad y fuentes de información sobre amenazas disponibles, y luego normalizar esos datos para que sean útiles para entrenar el motor de IA. Así será el futuro de la IA en la ciberseguridad.
Sobre la autora
Sam Jones es vicepresidente de administración de productos en Stellar Cyber, Inc. Es un líder experimentado en desarrollo de productos con un historial de creación de productos de inteligencia artificial y seguridad que los clientes adoran. Tiene una sólida experiencia en AI/ML, infraestructura de datos, seguridad, SaaS, diseño de productos y defensa. Sam ha ocupado puestos de productos e ingeniería en empresas como Palantir Technologies y Shield AI, y trabajó para la Fuerza Aérea de EE. UU. en estrategia de ciberdefensa. Obtuvo su licenciatura en Ingeniería Eléctrica e Informática de la Universidad de Cornell.
