A identificação de conteúdos gerados por inteligência artificial tem sido um dos maiores desafios do setor tecnológico. Embora a inclusão de marcas de água em imagens geradas por modelos da Google e da OpenAI já seja uma prática comum com recurso ao SynthID, a aplicação do mesmo conceito ao texto gerado revelou-se sempre muito mais complexa.
A Anthropic decidiu finalmente levantar o véu sobre o funcionamento prático do seu sistema de marca de água para o Claude. A fabricante detalhou os bastidores desta tecnologia, que promete permitir a identificação de respostas sem alterar a qualidade do que lês no ecrã.
O novo método baseia-se na solução SynthID-Text desenvolvida pela Google DeepMind e aposta numa abordagem matemática subtil para registar a autoria da IA sem deixar qualquer rasto visível para o utilizador comum.
Como funciona a marca de água no texto do Claude
Os modelos de linguagem geram respostas palavra a palavra, calculando qual o termo mais provável para dar continuidade a uma frase. Em muitos cenários, existem várias opções sinónimas com probabilidades semelhantes de escolha, aquilo a que a empresa chama de escolhas de baixo impacto (como optar entre “nublado” ou “cinzento”).
A tecnologia do Claude aproveita exatamente esses momentos específicos de decisão para aplicar uma sequência pseudoaleatória previsível, criando um padrão estatístico no texto:
- Não recorre a caracteres ocultos ou invisíveis no meio das frases
- Não consome tokens adicionais durante a geração da resposta
- Não prejudica a qualidade, fluidez ou contexto do conteúdo final
- Não permite identificar utilizadores, contas ou conversas específicas
O sistema da Anthropic não é uma solução milagrosa
Apesar do avanço tecnológico, a Anthropic fez questão de sublinhar as limitações práticas desta ferramenta. A deteção do padrão depende de uma chave criptográfica que apenas avalia a probabilidade de o texto ter sido escrito pelo Claude, não conseguindo identificar texto gerado por outras plataformas nem garantir a 100% que um texto não marcado seja de autoria humana.
Textos demasiado curtos contêm poucas decisões de vocabulário, tornando a deteção quase impossível. Além disso, conteúdos estritamente factuais (onde não há margem para sinónimos), código de programação e tarefas de revisão gramatical oferecem muito menos espaço para a introdução destes padrões estatísticos.
A empresa prevê disponibilizar em breve uma API pública de verificação para que ferramentas de terceiros possam analisar se determinados excertos de texto foram gerados pelo Claude.
Outros artigos interessantes:
