A Sophos, empresa líder global em soluções de cibersegurança, divulgou dois relatórios abordando o uso da IA no cibercrime. Um dos relatórios explora como os impostores poderão usar tecnologias de IA Generativa, como o ChatGPT, para realizar fraudes em larga escala. O outro relatório revela que alguns cibercriminosos mostram ceticismo em relação ao uso de grandes modelos de linguagem (LLMs), como o ChatGPT, em seus ataques.
O perigo da IA no cibercrime
A equipe Sophos X-Ops criou um site de e-commerce falso usando ferramentas LLM, como o GPT-4, que incluía imagens, áudio, descrições de produtos gerados por IA, além de um login falso no Facebook e uma página de checkout falsa. Este site foi desenvolvido com um conhecimento técnico mínimo e tinha como objetivo roubar credenciais de login e detalhes de cartões de crédito.
Opinião de especialistas da Sophos
Ben Gelman, Senior Data Scientist da Sophos, destacou que a integração de IA no cibercrime (em fraudes, por exemplo) é um avanço natural na tecnologia criminosa. A Sophos realizou essas investigações para antecipar e preparar-se para ameaças emergentes. A empresa desenvolveu um sistema para criar sites fraudulentos em grande escala, mais avançado do que as ferramentas atualmente utilizadas pelos criminosos, permitindo uma melhor análise e preparação para enfrentar tais ameaças.
Divergências entre hackers sobre o uso de IA no cibercrime
No estudo sobre as atitudes dos atacantes em relação à IA, a equipe da Sophos X-Ops analisou discussões em fóruns da dark web relacionadas a LLMs. Enquanto alguns cibercriminosos estão explorando o potencial da IA para engenharia social, outros expressaram preocupações sobre o uso de IA para fins maliciosos. A equipe encontrou postagens sobre a venda de contas ChatGPT comprometidas e “jailbreaks”, mas também observou reações mistas e céticas em relação a aplicações maliciosas de LLMs. Mais informações neste link
Conclusão da pesquisa da Sophos
Christopher Budd, Director da Sophos X-Ops Research, concluiu que, apesar das preocupações sobre o abuso de IA e LLMs por cibercriminosos, a pesquisa mostrou que eles estão mais céticos do que entusiasmados com essas tecnologias. Comparando a quantidade de discussões sobre IA com tópicos como criptomoedas, a pesquisa revelou que os piratas informáticos ainda estão a debater os mesmos temas que a comunidade em geral em relação aos LLMs.
Outros artigos interessantes:
