A empresa de inteligência artificial xAI tomou uma atitude drástica e inédita contra o mau uso das suas plataformas. Num processo judicial que está a dar que falar, a tecnológica processou um utilizador por gerar “deepfakes” de cariz sexual sem consentimento.
Esta ação legal marca uma posição muito firme da empresa contra a manipulação maliciosa das suas ferramentas tecnológicas. A xAI quer demonstrar que não vai tolerar que o seu chatbot, o Grok, seja utilizado para criar conteúdos perturbadores e abusivos.
Para quem acompanha o desenvolvimento destas tecnologias, esta é uma notícia que serve como um aviso importante e estabelece novos limites na segurança online. É no mínimo preocupante ver até onde a má intenção de alguns utilizadores pode chegar, mas as faturas começam agora a ser cobradas.
O caso perturbador que levou a xAI a tribunal
O arguido no centro desta tempestade é Terry Wayne Harwood, um homem de 67 anos residente na Carolina do Sul. Segundo a acusação apresentada no Texas, entre o final de 2025 e fevereiro de 2026, Harwood utilizou ativamente duas contas para contornar as rigorosas regras da plataforma.
A tática envolvia o upload de fotografias inofensivas de adultos e menores, pedindo de seguida ao Grok para alterar as imagens de forma pornográfica. Apesar do sistema ter recusado os pedidos em várias ocasiões, o utilizador manipulou os “prompts” de forma constante para enganar e contornar as salvaguardas da inteligência artificial. Num dos casos chocantes citados no processo, tentou despir uma foto de uma criança e gerar imagens explícitas, algo verdadeiramente inaceitável.
As consequências legais e o impacto na indústria
A xAI não se ficou por meias medidas com este processo histórico, exigindo o pagamento de uma compensação financeira por danos não especificada. Além disso, a empresa exige que o arguido cubra todas as despesas legais caso a tecnológica venha a ter de se defender de queixas interpostas pelas vítimas afetadas por estas falsificações abusivas.
Fora das portas da tecnológica, as consequências reais também já se fazem sentir. O indivíduo a cabou por ser detido no início de março deste ano pelas autoridades locais e enfrenta agora pesadas acusações relacionadas com a exploração sexual de menores e distribuição deste tipo de conteúdos.
Para que percebas a escala do escrutínio regulatório que o Grok sofreu devido a abusos deste género nos últimos meses, aqui ficam os pontos centrais que abalaram a empresa:
- Investigações formais lançadas pelas autoridades da Califórnia sobre os riscos da IA.
- Análises rigorosas e inquéritos por parte do regulador britânico Ofcom.
- Abertura de processos conduzidos separadamente pela Comissão Europeia e pela Comissão de Proteção de Dados da Irlanda.
- Aplicação imediata de bloqueios e salvaguardas de emergência pela xAI para tentar impedir a geração não consensual.
Com esta atitude em tribunal, a fabricante espera não só travar abusos, mas também afastar futuros infratores. Resta-nos aguardar pelos desenvolvimentos desta batalha legal, mas fica a garantia de que as empresas tecnológicas estão a começar a agir contra os que exploram de forma vil as suas inovações.
Outros artigos interessantes:
