IA y Ciberdelincuencia, un cóctel explosivo para la seguridad mundial

El Centro Nacional de Seguridad Cibernética del Reino Unido (NCSC) ha emitido una alerta donde advierte del impacto que van a tener las herramientas de inteligencia artificial en la ciberseguridad mundial, intensificando las amenazas que llegan de los ataques más peligrosos como el ransomware o el phishing y en general como inestimable ayuda en la generación de malware.

IA será el gran nombre de la tecnología mundial en 2024 y la verás promocionada como ‘mejora’ en cualquier tipo de producto o servicio. ‘Hasta en al sopa’ sí, pero quizá en caldos perjudiciales. Y es que regular las tecnologías de Inteligencia Artificial debería haber sido una prioridad como han pedido en varias ocasiones los mayores expertos mundiales. Pero una vez más, no hemos hecho nada y estas tecnologías campan a sus anchas sin que nadie parezca saber en que fase estamos y cómo acabaremos. En lo que nos ocupa hoy, IA y Ciberdelincuencia, los que sí saben por dónde se andan son los ciberdelincuentes…

Desde que la IA generativa llegó al gran público se ha usado ampliamente para Deepfakes, fake news y spam. Y se han creado desarrollos tan peligrosos como WormGPT, un chatbot tipo ChatGPT, pero diseñado específicamente para facilitar que los ciberdelincuentes pueden realizar sus «tareas». Se ha vendido en foros de la Internet Profunda confirmando la capacidad de la IA también para fines maliciosos. Y solo es la punta del iceberg.

IA y Ciberdelincuencia

Los ciberdelincuentes van por delante de todos en Internet y a pocos puede extrañar que usen las tecnologías más avanzadas. La alerta de NCSC es conveniente y concluye con varios puntos a tener en cuenta. Uno de ellos es que las tecnologías de IA está permitiendo aumentar el número de ciberdelincuentes. Gente sin experiencia, piratas informáticos a sueldo y hacktivistas poco cualificados, que pueden llevar a cabo ataques más eficaces y personalizados que, de otro modo, requerirían mucho tiempo, conocimiento técnico y esfuerzo operativo.

Hay que decir que la mayoría de las plataformas de modelos de aprendizaje grandes (LLM) disponibles, como ChatGPT y Bing Chat, tienen protecciones que evitan que la plataforma cree contenido malicioso. Sin embargo, el NCSC advierte que los ciberdelincuentes están creando y comercializando servicios especializados de IA generativa diseñados específicamente para impulsar las actividades delictivas, como el citado WormGPT. Según la agencia británica, esto indica que la IA ya ha escapado de los confines de marcos seguros y controlados, volviéndose accesible en el ecosistema criminal más amplio.

«Los ciberdelincuentes, incluidos los desarrolladores de ransomware (la mayor amenaza), ya están utilizando la IA para aumentar la eficiencia y eficacia de varios aspectos de las operaciones cibernéticas, como el reconocimiento, el phishing y la codificación», advierten.

Y no solo se usará por gente sin experiencia. La agencia ha señalado que la IA ayudará a crear APT sofisticados, generando malware personalizado evasivo de forma más fácil y rápida. «La IA tiene el potencial de generar malware que podría evadir la detección de los filtros de seguridad actuales». y en el caso de los llamados ataques-nación «existe una posibilidad realista de que los Estados altamente capacitados tengan depósitos de malware lo suficientemente grandes como para entrenar eficazmente un modelo de IA para estos propósitos».

El resultado es que los piratas informáticos de nivel intermedio obtendrán ventajas principalmente en reconocimiento, ingeniería social y extracción de datos, mientras que los actores de amenazas menos capacitados verán mejoradas sus ‘hazañas’ en casi todos los ámbitos.

El informe señala que se espera que el papel de la IA en el panorama del riesgo cibernético será evolutivo, mejorando las amenazas existentes en lugar de ser un fenómeno transformador. Aún así, el NCSC advierte que la IA generativa y los grandes modelos de lenguaje harán que sea muy difícil para todos, independientemente de su experiencia y nivel de habilidad, identificar los intentos de phishing, suplantación de identidad e ingeniería social.

La entrada IA y Ciberdelincuencia, un cóctel explosivo para la seguridad mundial se publicó primero en MuyComputer.