O Grok, o irreverente modelo de Inteligência Artificial da xAI, liderada por Elon Musk, parece ter encontrado o seu principal nicho de mercado: a criação de conteúdo para adultos. Novos dados revelam que uma fatia avassaladora da utilização desta ferramenta está direcionada para a geração de pornografia e cenários eróticos, levantando sérias questões sobre as receitas e a segurança do serviço.
A informação foi avançada originalmente pela publicação The Information e ecoada por outros meios tecnológicos. Segundo relatos de antigos funcionários da xAI, “bem mais de metade” do tráfego registado no Grok serve precisamente para gerar imagens pornográficas e alimentar “chats com encenações adultas” (o conhecido role-play).
Esta revelação coloca a xAI numa posição delicada, sugerindo que uma parte substancial das suas receitas provém da facilitação de conteúdos de cariz sexual. A situação atingiu tais proporções que a própria infraestrutura da empresa está a ser moldada por esta realidade inesperada, com utilizadores a explorarem atalhos para gerar estas imagens a custos mais baixos.
O peso da pornografia nos servidores da xAI
Uma análise interna da xAI confirmou o pior cenário para a equipa de moderação: uma “proporção significativa” dos pedidos dirigidos especificamente ao modelo de codificação do Grok destinava-se à criação de “imagens pornográficas ou de nudez”. É no mínimo curioso que os utilizadores tenham descoberto que usar o modelo focado em código ficava mais barato para gerar estes conteúdos do que usar a ferramenta principal de imagem.
O impacto desta tendência é tão profundo que até os investidores da empresa tiveram de ser alertados. Durante a preparação para o mercado, potenciais financiadores foram informados de que as funcionalidades “irreverentes” e pouco restritas do Grok representavam um verdadeiro risco legal e reputacional para o negócio.
Para mitigar estes receios, a empresa terá alocado uma reserva impressionante de 530 milhões de dólares (cerca de 465 milhões de euros). Este fundo destina-se exclusivamente a cobrir eventuais processos legais e multas que possam resultar da geração e proliferação de conteúdos impróprios através do seu chatbot.
O impacto na equipa e os desafios técnicos
Internamente, a avalanche de pedidos de cariz sexual está a causar dores de cabeça não só legais, mas também técnicas e morais. Os engenheiros da xAI têm enfrentado enormes dificuldades em afinar o algoritmo: precisam de permitir conversas sexuais consensuais (que a plataforma tolera) e, ao mesmo tempo, bloquear de forma infalível qualquer tentativa de gerar material de abuso sexual de menores.
Esta linha ténue entre o “modo picante” e a segurança infantil tem gerado desconforto na equipa. Eis os principais focos de tensão dentro dos escritórios da xAI:
- Funcionários relataram insatisfação por serem alocados a projetos como a “Ani”, relacionados com estas funcionalidades.
- A pressão constante para refinar o código de bloqueio de imagens de menores sem censurar excessivamente os pedidos dos utilizadores adultos.
- O conflito entre a visão de Elon Musk de um modelo “anti-woke” e sem censura e as exigências legais e éticas do desenvolvimento de Inteligência Artificial.
Resta saber se a xAI vai conseguir equilibrar a sua promessa de total liberdade de expressão com a responsabilidade de gerir uma ferramenta que se tornou, na prática, num enorme gerador de conteúdo para adultos.
Outros artigos interessantes:
