A xAI, a empresa de inteligência artificial de Elon Musk, iniciou uma nova e controversa política de moderação para o seu gerador de imagens, o Grok. Após semanas de polémica envolvendo a criação de imagens não consensuais, a empresa confirmou que o Grok deixará de gerar imagens de pessoas reais em biquíni ou roupa interior — mas apenas em países onde a lei explicitamente o proíbe.
Esta atualização, que funciona através de bloqueio geográfico (geoblocking), cria um cenário de moderação a duas velocidades: os utilizadores no Reino Unido e em vários países da União Europeia estão bloqueados, enquanto grande parte do resto do mundo continua a ter acesso livre a estas ferramentas.
Segurança apenas onde a lei obriga
A decisão da xAI não parece ser motivada por uma mudança na política de segurança global da plataforma, mas sim por uma necessidade estrita de conformidade legal.
- O Bloqueio: Em jurisdições com leis rigorosas sobre imagens não consensuais e segurança digital (como o Reino Unido e a UE, ao abrigo do Regulamento dos Serviços Digitais), os prompts que pedem pessoas reais em trajes menores são recusados ou bloqueados.
- A Permissão: Relatórios de utilizadores indicam que os mesmos pedidos continuam a funcionar sem atrito em mercados como a Ásia, América Latina e África, onde a legislação específica pode não existir ou não estar a ser aplicada.
Nos Estados Unidos, a situação é descrita como mista, sugerindo uma implementação gradual ou baseada em classificadores de imagem menos rígidos do que um bloqueio total.
Uma resposta à controvérsia dos ‘Deepfakes’
Esta medida surge na sequência de um aumento no uso indevido das ferramentas de edição do Grok no final de 2025. A capacidade de editar fotos de pessoas reais para aparecerem em situações ou trajes comprometedores gerou queixas de assédio e violação de privacidade, atraindo a atenção de reguladores no Japão e no Reino Unido.
Críticas à moderação “fatiada”
A estratégia da xAI está a ser criticada por criar um panorama de moderação desigual. Ao optar por uma abordagem baseada na jurisdição em vez de uma proibição global ética, a empresa deixa a porta aberta para que utilizadores mal-intencionados contornem as restrições usando ferramentas simples como uma VPN.
Por agora, a mensagem da xAI é clara: a segurança dos utilizadores depende do código postal e das leis locais, e não de uma regra universal da plataforma.
Outros artigos interessantes:
