La era de la Inteligencia Artificial en la ciberseguridad: ¿Un paso adelante hacia un mundo más seguro o hacia el borde del abismo?

La inteligencia artificial (IA) y el machine learning (ML) hace tiempo que empezaron a transformar varios campos de la actividad humana, aunque su potencial real aún tiene que alcanzarse. Las tecnologías basadas en IA nos ayudarán a luchar contra el fraude, a evaluar y optimizar procesos de negocios, a mejorar los procedimientos de prueba y a desarrollar nuevas soluciones para los problemas existentes.

Sin embargo, como la mayoría de innovaciones disruptivas, incluso la IA y el machine learning tienen sus inconvenientes.

Los negocios, las infraestructuras críticas y nuestra información privada se encuentran cada vez más conectados con el mundo digital y esto provoca que aparezcan nuevos riesgos. Los atacantes pueden utilizar IA de varias formas: para potenciar su malware, para apuntar a víctimas específicas y robar información valiosa, para buscar vulnerabilidades que aun no disponen de su parche de seguridad correspondiente o para proteger infraestructuras de dispositivos secuestrados pertenecientes a una botnet.

Por su parte, las soluciones basadas en ML utilizadas por organizaciones legítimas pueden convertirse en un objetivo atractivo. Mediante el uso de conjuntos de datos maliciosos, los atacantes pueden intentar manipular sistemas legítimos para que tomen decisiones incorrectas o muestren una visión distorsionada del entorno que se encargan de vigilar, pudiendo causar potencialmente un incidente grave.

Usando ML de forma maliciosa para traducciones y selección de objetivos

Es más, ya tenemos los primeros síntomas que indican que los casos anteriormente mencionados están pasando de la teoría a la realidad. Un buen ejemplo lo tenemos en los spammers, que han estado utilizando servicios de traducción basados en ML para mejorar su mensaje en un amplio abanico de lenguajes (a menos, claro está, de que los atacantes estén enviando spam durante el día y aprendiendo idiomas por las noches).

Otro amenaza actualmente activa en el que se observa el uso de IA es el caso de Emotet, del cual se sospecha que está utilizando este tipo de tecnología para mejorar su selección de objetivos. A pesar de infectar a miles de víctimas a diario, ha resultado sorprendentemente efectivo a la hora de evadir honeypots, y rastreadores de botnets.

Para conseguirlo, Emotet recopila telemetría de sus víctimas potenciales y la envía al centro de mando y control del atacante (C&C) para su análisis. Basándose en esta información el malware no solo es capaz de elegir los módulos incluidos en el payload, sino que también sabe distinguir entre usuarios humanos y máquinas virtuales utilizadas por los investigadores.

Los mecanismos de autodefensa similares serían muy complejos y caros de implementar y los operadores de Emotet tendrían que invertir una gran cantidad de recursos para conseguir las capacidades actuales del malware sin utilizar ML.

Limitaciones del ML y de la IA

Otro riesgo que tendrá más presencia en el futuro consiste en engañar a los modelos de ML alimentándolos de fuentes corruptas (lo que se conoce como machine learning adversaria), riesgo que será más prevalente en el campo de la ciberseguridad. Si algunos sistemas poco avanzados, y que basan sus motores de análisis en el ML, son engañados por los atacantes para que tomen decisiones incorrectas se podría reducir la seguridad de la empresa atacada y, potencialmente, causar un daño severo.

ESET tiene alrededor de 30 años de experiencia en ciberseguridad y más de 20 años implementando ML. Esto hace que sus expertos sean capaces de construir un motor robusto, resiliente y de última generación basado en machine learning.

La integración del motor ML en su sistema de reputación en la nube, ESET LiveGrid®, ha conseguido que todos sus usuarios disfruten de esta tecnología, ya sean particulares o empresas de todos los tamaños. Las compañías de mayor tamaño también pueden considerar el uso de ESET Dynamic Threat Defense, que proporciona otra capa de seguridad porque utiliza una tecnología de sandbox basada en la nube para detectar amenazas nuevas y que se han visto con anterioridad.

Sin embargo, ESET es consciente de que el machine learning y la IA no son la panacea y que los riesgos de que los atacantes utilicen ML adversarias crecerán con el tiempo. Para evitar esos problemas potenciales ESET ML se encuentra integrada con una serie de tecnologías de detección altamente efectivas tales como Detecciones ADN, Análisis Avanzado de la Memoria, Protección contra Ataques de Red y el scanner UEFI. Pensamos que solo las soluciones de seguridad multicapa pueden ofrecer una protección de confianza para hacer frente a las amenazas que se desarrollan constantemente.

Autor: Juraj Jánošík, Responsable del equipo de IA/ML de ESET

Comentar

Tu dirección de correo electrónico no será publicada.

Acerca de las cookies en este sitio

Este sitio web utiliza cookies propias y de terceros para mejorar tu experiencia de usuario y obtener información estadística. Para poder seguir navegando pulsa en "Sí, estoy de acuerdo". Podrás retirar este consentimiento en cualquier momento a través de las funciones de tu navegador. Ver nuestra política de cookies..