IA en Ciberseguridad ...sentido común al ataque

Es innegable que entramos en una nueva era, aunque sigue siendo pertinente la frase universal de cada ola tecnológica:

La Inteligencia Artificial es como la sexualidad entre adolescentes ...hablan mucho de ella, presumen mucho de ella, piensan mucho en ella, ven el mundo a través de ella ...pero realmente pocos saben cómo funciona y muchos menos la usan responsablemente.

Las promesas recurrentes ...en este caso para ciberseguridad: mejoramiento de los estándares actuales de operación, disminución de costos, reducción de la necesidad de especialistas. Todo mediado con una urgente avalancha de ciberataques más sofisticados ¿pero, realmente ha cambiado en terminos generales el objetivo central: lograr una ciber-resiliencia que garantice la operación del negocio minimizando los costos al máximo?

Parafraseando a nuestro amigo Asimov en alguna de sus obras: toda tecnología que alcanza un nivel de sofisticación suficiente para escapar a la comprensión humana convencional, tiende a asimilarse a magia...

Un poco de contexto

Hipersimplificando... en el boom de infoxicación acerca de lnteligencia Artificial en el que navegamos, podemos decir que tenemos dos grandes artefactos tecnológicos:

• Deep Learning: básicamente es el entrenamiento sofisticado de redes neuronales gigantescas usando conjuntos de datos a escala planetaria, es un caso particular del Machine Learning
• AI Generativa: con una innovación derivada de las ciencias de la computación al más alto nivel ...el Transformador (no tiene que ver con cine pero sí con la 'T' de ChatGPT), una red neuronal industrial entrenada, tiene por fin la capacidad de generar contextos y relaciones sofisticadas y en gran medida coherentes, para el conjunto de datos que le estamos entregando.

La aplicación inmediata la tuvimos en el NLP (procesamiento del lenguage natural) ...y eureka! estos contextos y relaciones a simple vista para el ojo humano desinformado pueden ser inteligentes, superan la prueba de Turing y para el ojo entrenado nos acerca al sueño de tener un asistente robot como el que vimos en Interstellar.

A nivel histórico es el equivalente a la domesticación del fuego, la agricultura, la creación del motor de la era industrial o la bomba atómica ...aquí arranca una nueva era, con la diferencia de que la retroalimentación de innovación es muchísimo más acelerada, hablamos de meses no de milenios ni siglos ...obviamente esto fué posible gracias al modelo Open Source y muchas matemáticas, al mejor estilo de Newton, parándose en hombros de gigantes.

Adopción de IA en cyberseguridad

Realmente la tasa de adopción de IA en el sector de cyberseguridad es alta, no es algo nuevo: +70% para soluciones tipo deeplearning y +60% para IA generativa, con más de un 20% de soluciones in-house, cifras en crecimiento. Hablamos de entornos industriales de nivel corporativo internacional (dejemos de lado empresas convencionales y más aún universidades en LATAM).

La aplicación de IA generativa es relativamente novedosa en el nicho, y su uso NO se orienta a acompañar las largas jornadas de soledad de expertos del sector, tiene entre otras, una función similar a la de una interfaz más humana en el pipeline de trabajo, ofreciendo resumenes inmediatos de actividades de ataque, posibles recomendaciones automatizadas, queries más efectivos sobre analíticas de registro, sin necesidad de depender estrictamente de programación engorrosa.

Mientras que en el uso de Deep Learning soportamos actividades repetitivas como identificación de url's maliciosas, detección de malware, con adaptación más rápida de lo que podría hacer un humano o un script de tamizaje vieja guardia, porque se tiene la capacidad de aprender. Estas actividades se soportan no tanto en modelos masivos como Copilot o Gemini, sino en modelos de menor escala pero mucho más especializados para nuestro nicho.

La IA es un complemento, pero realmente no puede, como lo ofrecen algunos vendedores, reemplazar la experticia humana, actualmente no dormiría tranquilo, si tuviera que delegar mi defensa frente a organizaciones criminales (que también están innovando a un ritmo acelerado), a una solución tercerizada, automatizada y generalmente de presupuesto abultado. En cambio, SI es una oportunidad, para disminuir el desgaste del talento humano especializado que soporta la operación, capacitar el personal de relevo (entre otras cosas), en una industria que sufre de escasez de seniors.

Debido al boom de IA en el sector tecnológico se han generado espectativas que no necesariamente corresponden a la realidad de su adopción en el sector de ciberseguridad, esto ha sido inpulsado, por una especie de campaña mediática nivel ejecutivo, el cuál no siempre se articula con la división de ingeniería.

Aparentemente se tiene la impresión de que la adopción de una solución de IA automágicamente garantiza por si sola la optimización de la operación de seguridad, con un aceleramiento del retorno sobre la inversión realizada en estas innovaciones, pero la aproximación requerida para la situación bien podría ser inversa: se requiere mejor, dar foco en la eliminación de los cuellos de botella de la operación, para disminuir el desgaste del equipo de seguridad, lo cuál únicamente puede hacerse mejorando procesos y adoptando tecnología de avanzada, lo que redundará en un ROI efectivo, resultados de impacto en negocio y tranquilidad. Es una espiral de operación que nace en la organización y se proyecta hacia su entorno externo (no a la inversa desde ingeniería comercial acelerada de catálogo), pivoteando en todo momento en los skills humanos in-house.

Riesgos

La última ventaja que realmente se está aprovechando desde las organizaciones y grupos criminales, es la capacidad que ofrece la IA Generativa para mejorar la credibilidad en sus engaños, principalmente ha sido un tema de contenidos de gran calidad que son fácilmente aceptables como verdaderos. Errores de ortografía, traducciones forzadas, información desactualizada, desaparecen con la ayuda de LLMs de uso público. Tecnologías como deepfake han sorprendendido con las capacidades de suplantación que ofrecen. Sin embargo, el objetivo de los ataques sigue siendo el tradicional: el aprovechamiento del factor humano, eso no ha cambiado. El entrenamiento in-house para una organización criminal, de un motor especializado es costoso, continua siendo más efectivo el uso de actores humanos bien entrenados apoyados en LLMs públicos.

No hay nada más peligroso que un falso sentido de seguridad. La adopción de una solución de IA sobre la que no hay auditoría en la calidad de los datos con los que ha sido entrenada, es un salto al vacío (garbage in, garbage out). Y si por temas de presupuesto o eficiencia, no se tiene un personal que la respalde, con experiencia comprobada de nicho, sumado a despliegues tecnológicos de baja calidad ...de nuevo, sentido común, sólo tenemos humo y espejos.

Cómo mencionábamos anteriormente, todo parte desde la organización. Ella es quien debe identificar el ámbito particular de aplicación, para luego identificar y desarrollar el modelo de despliegue más adecuado. Una adopción iterativa de soluciones de GenAI permite disminuir las dudas sobre el ROI real de un aplicativo de IA. Todavía no está claro cómo se va a medir este retorno, ¿cuántas horas efectivas de trabajo se liberarán realmente en nuestro equipo? ¿qué otro parámetro de impacto en el TCO de ciberseguridad puede medirse?, nos encontramos en pleno hype comercial.

Responsabilidad Humana

Sorprende la habilidad de la IA para simular capacidades coginitivas humanas, para encontrar patrones, su potencialidad para reemplazar actividades repetitivas o que involucran altos volúmenes de datos, sin embargo, su novedad parece hacernos olvidar, que la responsabilidad de la operación, siempre ha sido y será, en última instancia humana. La IA te avisará que el sistema está en riesgo, si fué bien desplegada y si tu equipo tiene la capacidad de sacarle provecho, pero eso es tu problema ...de nuevo, sentido común.

Elementos prácticos

Si la aproximación de la ciber-delincuencia arranca desde contenidos engañosos más sofisticados, tiene sentido potenciar esas áreas: detección automática de correos de phishing generados por IA, detección de tonos y estilos de redacción sospechosos.

Y para temas de suplantación, códigos de confirmación a nivel humano (no necesariamente digitial), llamadas de confirmación (esto para mitigar la clonación de voz) ...interesante que estrategias muy de los años 80's coloquen en jaque un intento sofisticado de clonación como estos.

Resumiendo, la IA es sólo otra herramienta más en el toolkit de defensa, ¿es un game changer? ¡absolutamente! pero es tecnología al final de la jornada.

Continua siendo estratégico, liberar al equipo de seguridad de tareas operativas para que puedan realmente aportar a la operación del negocio, disminuir fatiga, desarrollar capacidades, entrenar nuevo personal.

Lecturas introductorias interesantes

• AI Research (Sophos)
• Cybersecurity (Sophos)
• News (Sophos)
• Defensive AI
• Bringing AI to Cloudflare
• SASE (Cloudflare)
• Artificial intelligence (AI) vs. machine learning (ML)
• What Is Deep Learning?
• What’s the Difference Between Deep Learning and Neural Networks?

Imagenes Originales de sus autores (Attribution in alt description). Esta creación ha sido inspirada en parte en lecturas de trabajo de distintas fuentes (Sophos, Cloudflare, Otros)

En OpenSAI estaremos atentos a conocer tu experiencia, no dudes en dejar tu comentario ...y si te gustó nuestro contenido ya sabes, nos puedes invitar un café (en Colombia se le dice tintico... 😊)