Recentemente, a ElevenLabs, uma empresa que continua a ganhar destaque no campo da Inteligência Artificial, tomou a decisão de suspender a conta de um utilizador que criou um áudio deepfake imitando a voz do presidente dos Estados Unidos, Joe Biden. Este áudio foi utilizado numa chamada robótica distribuída a alguns eleitores em New Hampshire, com o objetivo de os dissuadir de votar nas primárias do estado.
A ElevenLabs oferece serviços de clonagem de voz e, após uma análise aprofundada da empresa de segurança Pindrop, ficou claro que as ferramentas da ElevenLabs foram empregadas na criação deste deepfake.
A Pindrop, especializada em segurança de áudio, realizou uma minuciosa investigação, removendo o ruído de fundo da chamada e comparando o áudio com amostras de mais de 120 tecnologias de síntese vocal usadas para gerar deepfakes. Vijay Balasubramaniyan, CEO da Pindrop, declarou à Wired que a probabilidade de o áudio ter sido gerado pelas ferramentas da ElevenLabs é superior a 99%.
Embora a ElevenLabs ainda esteja a investigar o caso, já confirmou que a conta responsável pelo áudio falso foi suspensa.
A manipulação de votos através de deepfakes
A utilização do deepfake de Biden ilustra o potencial de tecnologias capazes de imitar a aparência e voz de alguém para manipular eleições e votos. Kathleen Carley, professora na Universidade Carnegie Mellon, referiu ao The Hill que este caso pode ser apenas “a ponta do iceberg” no que diz respeito à supressão de votos e ataques a trabalhadores eleitorais, antecipando que mais situações semelhantes poderão surgir nos próximos meses.
A ElevenLabs permite que os seus clientes utilizem a sua tecnologia para clonar vozes para fins artísticos e políticos, contribuindo para debates públicos. Contudo, na sua página de segurança, a empresa adverte que não é permitido clonar uma voz para fins abusivos, como fraude, discriminação, discurso de ódio ou qualquer forma de abuso online, sem violar a lei.
Este incidente sublinha a necessidade de a empresa implementar medidas de segurança adicionais para prevenir que atores mal-intencionados usem as suas ferramentas para influenciar eleitores e manipular eleições em todo o mundo.
A rápida evolução do uso indevido de IA
Após o lançamento da versão beta da plataforma da ElevenLabs, não demorou muito para que a internet começasse a utilizar a tecnologia para criar clips de áudio que soam como celebridades, dizendo algo questionável. A capacidade de criar deepfakes de voz levanta preocupações significativas sobre a integridade das informações e a possibilidade de desinformação.
Este caso recente com Joe Biden demonstra como as ferramentas de IA podem ser usadas de forma indevida, colocando em risco a confiabilidade das informações e a integridade dos processos democráticos. A ElevenLabs e outras empresas no campo da IA terão de enfrentar o desafio de equilibrar a inovação com a responsabilidade ética e social, assegurando que as suas tecnologias não sejam utilizadas para fins nefastos.
Outros artigos interessantes:
