A utilização da GenAI na cibersegurança tem vindo a crescer, mas também levanta receios entre os líderes de Tecnologia da Informação (TI).
De acordo com um inquérito recente da Sophos, 89% dos líderes de TI temem que erros associados à IA generativa (GenAI) possam comprometer as estratégias de segurança das suas organizações.
Este estudo integra o relatório “Beyond the Hype: The Businesses Reality of AI for Cybersecurity”, que avalia o impacto da GenAI na proteção contra ameaças digitais.
A investigação também aborda a forma como cibercriminosos estão a explorar a IA para automatizar tarefas, revelando que, embora o ceticismo ainda seja predominante, algumas ferramentas de engenharia social já integram capacidades de GenAI. Estes factos sublinham a necessidade de equilibrar as vantagens da IA com uma supervisão humana robusta.
Preocupacções sobre a confiabilidade GenAI na cibersegurança
O estudo revelou que 65% das organizações já adotaram funcionalidades de GenAI na cibersegurança, mas a dependência excessiva desta tecnologia preocupa os líderes de TI.
Cerca de 87% manifestaram receio quanto à falta de responsabilização que pode surgir desta dependência, destacando a importância de uma abordagem que combine a supervisão humana com os benefícios da automação.
O relatório também revela que 98% das organizações já incorporaram algum tipo de IA na sua infraestrutura de cibersegurança. No entanto, para mitigar riscos, a integração dessas ferramentas requer validação e contexto por parte de especialistas.
Impactos na gestão de recursos humanos
A pesquisa também revela preocupações relacionadas com a pressão para reduzir equipas, motivada por expectativas irreais sobre a capacidade da GenAI na cibersegurança ser capaz de substituir operações humanas. Este receio foi partilhado por 84% dos líderes, que destacaram a necessidade de gerir expectativas quanto à aplicação da tecnologia.
A prioridade das empresas de maior dimensão é a melhoria da proteção, enquanto para as organizações mais pequenas o foco é a redução do burnout dos seus colaboradores. Esta divergência de prioridades reflete a variabilidade nos benefícios esperados consoante o tamanho da organização.
Custos e benefícios da GenAI na cibersegurança
Os custos associados à integração da GenAI na cibersegurança também representam um desafio. Cerca de 75% dos líderes de TI considera difícil quantificar os custos das ferramentas baseadas em IA generativa.
Apesar disso, 87% acreditam que as poupanças decorrentes da sua utilização compensarão os custos acrescidos, enquanto 80% espera um aumento significativo nos custos das ferramentas de cibersegurança.
Conclusão
A adoção da IA generativa no campo da cibersegurança deve representar um equilíbrio entre as oportunidades que oferece e os riscos que introduz. É indiscutível que a tecnologia possibilite avanços importantes na automação e na eficácia operacional, no entanto é fundamental não esquecer a importância da intervenção humana para garantir a confiabilidade e a responsabilidade no uso das ferramentas de inteligência artificial.
Para saber mais sobre como os líderes de IT utilizam a IA, leia o relatório “Beyond the Hype: The Businesses Reality of AI for Cybersecurity” em Sophos.com. Para saber mais sobre as atitudes dos cibercriminosos em relação à GenAI, leia o relatório “Cybercriminals Still Not Getting on Board the AI Train (Yet)” em Sophos.com.
Outros artigos interessantes:
