O Departamento de Justiça dos Estados Unidos, em colaboração com as autoridades holandesas e canadianas, desmantelou uma rede de bots russa que utilizava inteligência artificial (IA) para espalhar desinformação e propaganda pró-Rússia na rede social X (anteriormente Twitter).
A rede, composta por quase mil contas falsas, foi criada por um departamento de mídia digital da RT, um meio de comunicação estatal russo, e financiada pelo Serviço Federal de Segurança da Rússia (FSB).
A ferramenta de IA utilizada, chamada “Meliorator”, foi desenvolvida para criar perfis falsos em massa, gerar mensagens de texto e imagens e replicar desinformação de outros bots.
Bots russos enganavam utilizadores com nomes americanos e fotos geradas por IA
Muitos dos perfis criados pela ferramenta personificavam americanos, usando nomes americanos e definindo suas localizações em várias cidades dos EUA. As fotos de perfil, geradas por IA, mostravam rostos contra fundos cinzentos, um indicador da sua natureza artificial. As contas publicavam vídeos e mensagens a favor do governo russo e da guerra na Ucrânia, que eram depois partilhadas e amplificadas por outros bots da rede.
Autoridades norte-americanas e aliadas unem esforços para combater a desinformação russa
A operação de desmantelamento envolveu a apreensão de dois domínios utilizados pela rede para criar endereços de email necessários para se registar no X.
Embora o X tenha suspendido todas as contas identificadas até agora, o Departamento de Justiça ainda está a trabalhar para encontrar todas as 968 contas utilizadas pelos agentes russos.
A utilização de domínios baseados nos EUA pela operação viola a Lei Internacional de Poderes Económicos de Emergência, enquanto o pagamento por eles viola as leis federais de lavagem de dinheiro dos EUA.
Ferramenta de IA “meliorator” tinha potencial para ser utilizada em outras redes sociais
A análise do software Meliorator pelas autoridades revelou que os responsáveis pela rede tinham planos para expandir a sua operação para outras plataformas além do X.
A utilização de IA para disseminar desinformação política não é um fenómeno novo, com a OpenAI a ter desmantelado, em maio, cinco operações secretas de influência política originárias da Rússia, China, Israel e Irão.
FBI comprometido em combater a desinformação gerada por ia
O diretor do FBI, Christopher Wray, afirmou o compromisso da agência em trabalhar com parceiros para combater o uso de tecnologia de ponta para fins nefastos, como a disseminação de desinformação estrangeira gerada por IA.
Outros artigos interessantes:
