Nota do editor: A Agência Finlandesa de Transportes e Comunicações, Traficom, é responsável por garantir a disponibilidade de conexões e serviços de transporte e comunicação seguros, protegidos e com preços razoáveis na Finlândia. Além dessas responsabilidades, a Traficom também serve como autoridade para pessoas e empresas em questões relacionadas a licenças, registro e supervisão.
Recentemente, a Traficom publicou um relatório do Centro Nacional de Segurança Cibernética da Finlândia (NCSC-FI) e da Agência Nacional de Abastecimento de Emergência (NESA) intitulado “A ameaça à segurança dos ataques cibernéticos habilitados por IA”. Este relatório examina a ameaça de ataques cibernéticos baseados em IA resumindo o conhecimento atual sobre o assunto. O relatório pode ser útil para profissionais de segurança cibernética, governança da informação e eDiscovery que estão considerando o impacto da IA generativa no aprimoramento dos ataques cibernéticos.
Informações sobre segurança cibernética
A inteligência artificial moldará o futuro dos ataques cibernéticos
Anúncio de imprensa, resumo e relatório
As inovações de segurança de IA precisam acompanhar os ataques cibernéticos
Anúncio de imprensa da WithSecure
Embora o uso de inteligência artificial (IA) nos ataques cibernéticos atuais seja limitado, um novo relatório alerta que isso está prestes a mudar em um futuro próximo.
O relatório, co-criado pela WithSecure™ (anteriormente conhecida como F-Secure Business), pela Agência Finlandesa de Transportes e Comunicações (Traficom) e pela Agência Nacional de Suprimentos de Emergência da Finlândia (NESA), analisa as tendências e desenvolvimentos atuais em IA, ataques cibernéticos e áreas em que os dois se sobrepõem. Ele observa que os ataques cibernéticos que usam IA são atualmente muito raros e limitados a aplicativos de engenharia social (como se passar por um indivíduo) ou usados de maneiras que não são diretamente observáveis por pesquisadores e analistas (como análise de dados em sistemas de back-end).
No entanto, o relatório destaca que a quantidade e a qualidade dos avanços na IA tornaram prováveis ataques cibernéticos mais avançados em um futuro próximo.
De acordo com o relatório, a identificação de alvos, a engenharia social e a falsificação de identidade são as ameaças mais iminentes da atualidade e espera-se que evoluam ainda mais nos próximos dois anos, tanto em número quanto em sofisticação.
Nos próximos cinco anos, é provável que os atacantes desenvolvam uma IA capaz de encontrar vulnerabilidades de forma autônoma, planejar e executar campanhas de ataque, usar a furtividade para evitar defesas e coletar/minerar informações de sistemas comprometidos ou inteligência de código aberto.
“Embora o conteúdo gerado por IA tenha sido usado para fins de engenharia social, técnicas de IA projetadas para direcionar campanhas, realizar etapas de ataque ou controlar a lógica do malware ainda não foram observadas na natureza. Essas técnicas serão desenvolvidas primeiro por adversários com bons recursos e altamente qualificados, como grupos de estados-nação”, disse Andy Patel, pesquisador da WithSecure Intelligence. “Depois que novas técnicas de IA forem desenvolvidas por adversários sofisticados, algumas provavelmente se transformarão em adversários menos qualificados e se tornarão mais predominantes no cenário de ameaças.”
Embora as defesas atuais possam enfrentar alguns dos desafios impostos pelo uso da IA pelos atacantes, o relatório observa que outras exigem que os defensores se adaptem e evoluam. Novas técnicas são necessárias para combater o phishing baseado em IA que utiliza conteúdo sintetizado, falsificação de sistemas de autenticação biométrica e outros recursos no horizonte.
O relatório também aborda o papel que as soluções não técnicas, como compartilhamento de inteligência, recursos e treinamento de conscientização sobre segurança, têm no gerenciamento da ameaça de ataques impulsionados por IA.
“A segurança não está tendo o mesmo nível de investimento ou avanços de muitos outros aplicativos de IA, o que pode eventualmente fazer com que os invasores ganhem vantagem”, disse Samuel Marchal, cientista sênior de dados da WithSecure. “É preciso lembrar que, embora organizações, desenvolvedores e pesquisadores legítimos sigam as regulamentações de privacidade e as leis locais, os atacantes não o fazem. Se os formuladores de políticas esperam o desenvolvimento de tecnologias baseadas em IA seguras, confiáveis e éticas, eles precisarão considerar como proteger essa visão em relação às ameaças habilitadas pela IA.”
Sobre o WithSecure™
O WithSecure™, anteriormente F-Secure Business, é o parceiro confiável da segurança cibernética. Provedores de serviços de TI, MSSPs e empresas — juntamente com as maiores instituições financeiras, fabricantes e milhares dos provedores de comunicações e tecnologia mais avançados do mundo — confiam em nós para garantir a segurança cibernética baseada em resultados que protege e viabiliza suas operações.
Nossa proteção baseada em IA protege os endpoints e a colaboração na nuvem, e nossa detecção e resposta inteligentes são desenvolvidas por especialistas que identificam riscos comerciais procurando proativamente ameaças e enfrentando ataques ao vivo. Nossos consultores fazem parcerias com empresas e empresas desafiadoras de tecnologia para criar resiliência por meio de consultoria de segurança baseada em evidências. Com mais de 30 anos de experiência na criação de tecnologia que atenda aos objetivos de negócios, construímos nosso portfólio para crescer com nossos parceiros por meio de modelos comerciais flexíveis.
A WithSecure™ Corporation foi fundada em 1988 e está listada na NASDAQ OMX Helsinki Ltd.
Leia o anúncio original.
A inteligência artificial moldará o futuro dos ataques cibernéticos
Resumo do relatório da Traficom (Agência Finlandesa de Transportes e Comunicações)
O tópico dos ataques cibernéticos com inteligência artificial surgiu há cerca de cinco anos, com exemplos de modelos generativos de IA capazes de automatizar tanto os ataques de spear-phishing quanto a descoberta de vulnerabilidades. Desde então, ataques de engenharia social e falsificação de identidade apoiados pela IA ocorreram, causando milhões de dólares em perdas financeiras. O rápido progresso atual na pesquisa de IA, juntamente com as inúmeras novas aplicações que ela possibilita, nos leva a acreditar que as técnicas de IA serão usadas em breve para apoiar mais etapas normalmente usadas durante ataques cibernéticos. Essa é a razão pela qual a ideia de ataques cibernéticos baseados em IA recentemente ganhou cada vez mais atenção da academia e da indústria, e por isso estamos começando a ver mais pesquisas dedicadas ao estudo de como a IA pode ser usada para aprimorar os ataques cibernéticos.
Um estudo do final de 2019 ilustrou que mais de 80% dos tomadores de decisão estavam preocupados com ataques cibernéticos baseados em IA e previu que esses tipos de ataques podem se tornar populares em um futuro próximo. As tecnologias atuais de IA já suportam muitos estágios iniciais de uma cadeia de ataque típica. Técnicas avançadas de engenharia social e coleta de informações são esses exemplos. Os ataques cibernéticos com inteligência artificial já são uma ameaça que as organizações não conseguem enfrentar. Essa ameaça à segurança só crescerá à medida que testemunharmos novos avanços na metodologia de IA e à medida que a experiência em IA se tornar mais amplamente disponível.
Este relatório tem como objetivo investigar a ameaça à segurança dos ataques cibernéticos habilitados por IA, resumindo o conhecimento atual sobre o assunto. Atualmente, a tecnologia de IA é capaz de aprimorar apenas algumas táticas de ataque e provavelmente só é usada por agentes de ameaças avançados, como atacantes de estados-nação. Em um futuro próximo, os avanços acelerados da IA aprimorarão e criarão uma gama maior de técnicas de ataque por meio de automação, furtividade, engenharia social ou coleta de informações. Portanto, prevemos que os ataques com inteligência artificial se tornarão mais difundidos entre atacantes menos qualificados nos próximos cinco anos. À medida que os ataques cibernéticos convencionais se tornarem obsoletos, as tecnologias, habilidades e ferramentas de IA se tornarão mais disponíveis e acessíveis, incentivando os atacantes a usarem ataques cibernéticos habilitados pela IA.
O setor de segurança cibernética terá que se adaptar para lidar com o surgimento de ataques cibernéticos habilitados por IA. Por exemplo, os métodos de autenticação biométrica podem se tornar obsoletos devido às técnicas avançadas de representação habilitadas pela IA. Novos mecanismos de prevenção e detecção também precisarão ser desenvolvidos para combater os ataques cibernéticos habilitados pela IA. Mais automação e tecnologia de IA também precisarão ser usadas em soluções de defesa para igualar a velocidade, a escala e a sofisticação dos ataques cibernéticos habilitados pela IA. Isso pode levar a uma luta assimétrica entre atacantes que usam tecnologias de IA sem restrições e que os defensores sejam limitados pela próxima regulamentação sobre aplicativos de IA.
Leia o anúncio original.
Leia o extrato original do resumo.
Relatório completo: A ameaça à segurança dos ataques cibernéticos habilitados por IA (PDF) - Passe o mouse para rolar
Por Matti Aksela, Samuel Marchal, Andrew Patel, Lina Rosenstedt e WithSecure
TRAFICOM A ameaça à segurança dos ataques cibernéticos habilitados por IA 2022-12-12
Documento original
Leitura adicional
De olho na IA? Estratégias nacionais europeias sobre inteligência artificial
Definindo o Cyber Discovery? Uma definição e estrutura
Fonte: ComplexDiscovery
