Se acompanhas de perto o mundo da inteligência artificial, sabes que esta tecnologia continua a mostrar o seu lado mais obscuro. O Grok, o conhecido chatbot criado pela empresa de Elon Musk, está novamente no centro de uma grave polémica legal que não deixa ninguém indiferente.
Desta vez, uma quarta mulher decidiu juntar-se a uma ação judicial já existente contra a xAI, levantando acusações extremamente pesadas. A queixa central afirma que a ferramenta foi utilizada para gerar material de abuso sexual infantil (CSAM) com base em fotografias reais da sua infância.
É no mínimo preocupante ver como as ferramentas digitais podem ser desviadas para fins tão nefastos e com consequências tão graves. Este desenvolvimento não só adensa o processo que começou nos Estados Unidos, como levanta sérias questões sobre a moderação e segurança dos grandes modelos de linguagem que invadem o mercado.
O caso sombrio que envolve o chatbot da xAI
Identificada no processo apenas como “Jane Doe 4”, a mulher residente no estado norte-americano do Wyoming relatou uma história verdadeiramente perturbadora. Segundo a ação judicial, o seu padrasto utilizou o Grok para criar mais de 7.000 imagens explícitas falsas dela mesma, recorrendo para isso a fotos reais tiradas quando tinha apenas 11 anos.
Após as autoridades locais e estatais terem feito buscas aos dispositivos eletrónicos do padrasto para encontrar este material ilícito, a situação teve um desfecho trágico. Apenas dois dias após a apreensão do conteúdo gerado por IA, o homem foi encontrado morto no seu carro, num aparente suicídio.
Esta nova vítima junta-se assim a três adolescentes do Tennessee que deram início a este processo original. A ação coletiva defende que o número de menores afetados por deepfakes explícitos criados através do Grok pode facilmente chegar aos milhares, ilustrando a dimensão alarmante desta falha de segurança na plataforma.
Investigações acumulam-se para a empresa de Elon Musk
Infelizmente, se achavas que este processo judicial seria um caso isolado, a realidade da xAI prova o contrário. O chatbot tem sido o alvo principal de várias investigações sérias relacionadas com a criação e propagação de conteúdos não consensuais em múltiplas frentes globais.
As autoridades parecem estar finalmente a apertar o cerco à falta de restrições de segurança que ferramentas como o Grok apresentam aos utilizadores. O escrutínio regulatório é cada vez mais óbvio, existindo já várias ações em curso que deves conhecer e que podem ditar o futuro da plataforma:
- Em janeiro, o procurador-geral da Califórnia abriu uma investigação formal contra a xAI por facilitar a geração de nus em formato deepfake de mulheres e crianças.
- A União Europeia iniciou a sua própria investigação à rede social X para determinar se a plataforma de Elon Musk tem medidas de segurança suficientes para travar a propagação de CSAM gerado por IA.
- A atual ação coletiva que começou no Tennessee ameaça transformar-se num caso gigantesco nos tribunais norte-americanos, representando potencialmente milhares de vítimas.
Resta agora aguardar para perceber qual será a resposta oficial da xAI face a estas novas alegações e qual será o desfecho de todas estas investigações em curso. O impacto no desenvolvimento futuro destas plataformas de inteligência artificial poderá ser drástico se a justiça decidir impor sanções verdadeiramente pesadas à gigante tecnológica.
Outros artigos interessantes:
