Nota del editor: La Agencia Finlandesa de Transporte y Comunicaciones, Traficom, es responsable de garantizar la disponibilidad de conexiones y servicios de transporte y comunicación seguros y a precios razonables en Finlandia. Además de estas responsabilidades, Traficom también actúa como una autoridad para las personas y las empresas en asuntos relacionados con las licencias, el registro y la supervisión.
Recientemente, Traficom publicó un informe del Centro Nacional de Ciberseguridad de Finlandia (NCSC-FI) y la Agencia Nacional de Suministros de Emergencia (NESA) titulado «La amenaza a la seguridad de los ciberataques basados en la IA». Este informe examina la amenaza de los ciberataques basados en la IA y resume los conocimientos actuales sobre el tema. El informe puede resultar útil para los profesionales de la ciberseguridad, la gobernanza de la información y la detección electrónica que estén considerando el impacto de la IA generativa en la mejora de los ciberataques.
Información sobre ciberseguridad
La inteligencia artificial moldeará el futuro de los ciberataques
Anuncio de prensa, resumen e informe
Las innovaciones en seguridad de la IA deben seguir el ritmo de los ciberataques
Anuncio de prensa de WithSecure
Si bien el uso de la inteligencia artificial (IA) en los ciberataques actuales es limitado, un nuevo informe advierte que esta situación está a punto de cambiar en un futuro próximo.
El informe, creado conjuntamente por WithSecure™ (anteriormente conocida como F-Secure Business), la Agencia Finlandesa de Transporte y Comunicaciones (Traficom) y la Agencia Nacional de Suministros de Emergencia de Finlandia (NESA), analiza las tendencias y los avances actuales en materia de IA, ciberataques y áreas en las que ambos aspectos se superponen. Señala que los ciberataques que utilizan la IA son actualmente muy poco frecuentes y se limitan a aplicaciones de ingeniería social (como hacerse pasar por una persona) o se utilizan de formas que los investigadores y analistas no pueden observar directamente (como el análisis de datos en los sistemas de fondo).
Sin embargo, el informe destaca que la cantidad y la calidad de los avances en la IA han hecho que sea probable que se produzcan ciberataques más avanzados en un futuro próximo.
Según el informe, la identificación de objetivos, la ingeniería social y la suplantación de identidad son las amenazas más inminentes de la actualidad gracias a la IA y se espera que sigan evolucionando en los próximos dos años, tanto en número como en sofisticación.
En los próximos cinco años, es probable que los atacantes desarrollen una IA capaz de encontrar vulnerabilidades de forma autónoma, planificar y ejecutar campañas de ataque, utilizar el sigilo para evadir las defensas y recopilar y extraer información de sistemas comprometidos o de inteligencia de código abierto.
«Si bien el contenido generado por la IA se ha utilizado con fines de ingeniería social, aún no se han observado técnicas de IA diseñadas para dirigir campañas, realizar ataques o controlar la lógica del malware. Esas técnicas las desarrollarán primero adversarios con buenos recursos y habilidades, como los grupos de estados nacionales», dijo Andy Patel, investigador de WithSecure Intelligence. «Cuando adversarios sofisticados desarrollen nuevas técnicas de IA, es probable que algunas lleguen a manos de adversarios menos expertos y se hagan más frecuentes en el panorama de las amenazas».
Si bien las defensas actuales pueden abordar algunos de los desafíos que plantea el uso de la IA por parte de los atacantes, el informe señala que otras requieren que los defensores se adapten y evolucionen. Se necesitan nuevas técnicas para contrarrestar la suplantación de identidad basada en la IA, que utiliza contenido sintetizado, suplantación de sistemas de autenticación biométrica y otras capacidades que se vislumbran en el horizonte.
El informe también aborda el papel que desempeñan las soluciones no técnicas, como el intercambio de inteligencia, la asignación de recursos y la formación en materia de seguridad, en la gestión de la amenaza de los ataques impulsados por la IA.
«La seguridad no está experimentando el mismo nivel de inversión o avances que muchas otras aplicaciones de IA, lo que podría llevar a que los atacantes acaben ganando terreno», afirma Samuel Marchal, científico de datos sénior de WithSecure. «Hay que recordar que, si bien las organizaciones, los desarrolladores y los investigadores legítimos siguen las normas de privacidad y las leyes locales, los atacantes no. Si los responsables políticos esperan el desarrollo de tecnologías basadas en la IA seguras, confiables y éticas, deberán considerar cómo proteger esa visión en relación con las amenazas basadas en la IA».
Acerca de WithSecure™
WithSecure™, anteriormente F-Secure Business, es el socio confiable de la ciberseguridad. Los proveedores de servicios de TI, los MSSP y las empresas, junto con las instituciones financieras más importantes, los fabricantes y miles de los proveedores de tecnología y comunicaciones más avanzados del mundo, confían en nosotros para una ciberseguridad basada en los resultados que proteja y permita sus operaciones.
Nuestra protección basada en la IA protege los puntos finales y la colaboración en la nube, y nuestra detección y respuesta inteligentes cuentan con el respaldo de expertos que identifican los riesgos empresariales mediante la búsqueda proactiva de amenazas y la lucha contra los ataques en vivo. Nuestros consultores se asocian con empresas y empresas con desafíos tecnológicos para desarrollar la resiliencia a través de consejos de seguridad basados en evidencia. Con más de 30 años de experiencia en la creación de tecnología que cumpla con los objetivos comerciales, hemos creado nuestra cartera para crecer con nuestros socios a través de modelos comerciales flexibles.
WithSecure™ Corporation se fundó en 1988 y cotiza en NASDAQ OMX Helsinki Ltd.
Lea el anuncio original.
La inteligencia artificial moldeará el futuro de los ciberataques
Resumen del informe Traficom (Agencia Finlandesa de Transportes y Comunicaciones)
El tema de los ciberataques basados en la IA surgió hace unos cinco años con ejemplos de modelos de IA generativa capaces de automatizar tanto los ataques de suplantación de identidad como la detección de vulnerabilidades. Desde entonces, se han producido ataques de ingeniería social y suplantación de identidad apoyados por la IA, que han provocado pérdidas financieras de millones de dólares. El rápido progreso actual en la investigación de la IA, junto con las numerosas aplicaciones nuevas que permite, nos lleva a creer que las técnicas de IA pronto se utilizarán para respaldar más de los pasos que normalmente se utilizan durante los ciberataques. Esta es la razón por la que la idea de los ciberataques basados en la IA ha despertado recientemente una mayor atención tanto en el mundo académico como en la industria, y por la que estamos empezando a ver más investigaciones dedicadas al estudio de cómo podría utilizarse la IA para mejorar los ciberataques.
Un estudio de finales de 2019 mostró que más del 80% de los responsables de la toma de decisiones estaban preocupados por los ciberataques impulsados por la IA y predijo que este tipo de ataques podrían generalizarse en un futuro próximo. Las tecnologías de IA actuales ya son compatibles con muchas de las primeras etapas de una cadena de ataque típica. Las técnicas avanzadas de ingeniería social y recopilación de información son ejemplos de ello. Los ciberataques basados en la IA ya son una amenaza a la que las organizaciones no pueden hacer frente. Esta amenaza a la seguridad no hará más que crecer a medida que seamos testigos de nuevos avances en la metodología de la IA y a medida que la experiencia en IA esté más disponible.
Este informe tiene como objetivo investigar la amenaza a la seguridad de los ciberataques basados en la IA resumiendo los conocimientos actuales sobre el tema. Actualmente, la tecnología de IA solo puede mejorar algunas tácticas de los atacantes, y es probable que solo la utilicen actores de amenazas avanzados, como los atacantes de los estados nacionales. En un futuro próximo, los rápidos avances de la IA mejorarán y crearán una gama más amplia de técnicas de ataque mediante la automatización, el sigilo, la ingeniería social o la recopilación de información. Por lo tanto, predecimos que los ataques basados en la IA se generalizarán entre los atacantes menos cualificados en los próximos cinco años. A medida que los ciberataques convencionales se vuelvan obsoletos, las tecnologías, las habilidades y las herramientas de IA estarán más disponibles y serán más asequibles, lo que incentivará a los atacantes a utilizar los ciberataques basados en la IA.
La industria de la ciberseguridad tendrá que adaptarse para hacer frente a la aparición de ciberataques basados en la IA. Por ejemplo, los métodos de autenticación biométrica pueden quedar obsoletos debido a las técnicas avanzadas de suplantación de identidad que permite la IA. También será necesario desarrollar nuevos mecanismos de prevención y detección para contrarrestar los ciberataques basados en la IA. También será necesario utilizar más tecnología de automatización e IA en las soluciones de defensa para igualar la velocidad, la escala y la sofisticación de los ciberataques basados en la IA. Esto podría provocar una lucha asimétrica entre los atacantes que utilizan sin restricciones las tecnologías de IA y los defensores se ven limitados por la próxima regulación sobre las aplicaciones de IA.
Lea el anuncio original.
Lea el extracto original del resumen.
Informe completo: La amenaza a la seguridad de los ciberataques basados en la IA (PDF): Pase el ratón por encima para desplazarse
Por Matti Aksela, Samuel Marchal, Andrew Patel, Lina Rosenstedt y WithSecure
TRAFICOM La amenaza a la seguridad de los ciberataques basados en la IA 2021-12-12
Documento original
Lectura adicional
¿Vigilando la IA? Estrategias nacionales europeas sobre inteligencia artificial
¿Definir el descubrimiento cibernético? Una definición y un marco
Fuente: ComplexDiscovery
