Imagina que, de um dia para o outro, a Pesquisa Google começa a tratar-te como se fosses uma criança. Tópicos que pesquisavas livremente passam a ser bloqueados, as tuas definições de personalização são alteradas sem o teu consentimento e, para todos os efeitos, a tua identidade digital é posta em causa. O pior de tudo? O acusador é um algoritmo, e provar a tua inocência é um labirinto burocrático. Este cenário, digno de um episódio de Black Mirror, está a tornar-se uma realidade frustrante para um número crescente de utilizadores da Google.
Um novo sistema de verificação de idade, alimentado por inteligência artificial, que a Google tem vindo a implementar na sua pesquisa, está a identificar erradamente utilizadores adultos como sendo menores de 18 anos. O resultado é o bloqueio ou a restrição de contas, um problema que é agravado pelo facto de as ferramentas para reverter a situação estarem, em muitos casos, a falhar, deixando os utilizadores presos num limbo digital.
Como é que o “juiz IA” da Google funciona (e falha)?
O sistema em questão foi desenhado para cumprir as regulamentações crescentes que exigem uma maior proteção de menores online. Para o fazer, a Google recorre à aprendizagem de máquina (machine learning) para “adivinhar” a tua idade com base nos teus padrões de comportamento, como o teu histórico de pesquisas e a tua atividade no YouTube.
É aqui que reside o problema fundamental. O que constitui um comportamento “de menor de idade” aos olhos de um algoritmo? Se um adulto pesquisa informações para o trabalho de escola de um filho, se vê vídeos de jogos populares entre os mais novos ou se simplesmente tem interesses que não se alinham com os de um “adulto típico”, a IA pode facilmente chegar a uma conclusão errada. Estes “falsos positivos” estão a fazer com que pessoas com 30, 40 ou 50 anos sejam subitamente classificadas como adolescentes.
As consequências de ser “reclassificado” como menor
Quando o algoritmo te marca como potencial menor de idade, as restrições são imediatas. Recebes uma notificação vaga que diz “Alterámos algumas das tuas definições”, e a tua experiência Google muda:
- A personalização de anúncios é desativada.
- O acesso a “conteúdo sensível” na Pesquisa Google e no YouTube é bloqueado.
Esta última restrição é particularmente problemática. O que a Google considera “sensível” pode abranger uma vasta gama de tópicos legítimos, desde notícias sobre violência a informação de saúde ou investigação académica, limitando severamente a utilidade da sua principal ferramenta.
O labirinto da verificação: quando a solução não funciona
Teoricamente, resolver o problema deveria ser simples. A Google pede-te para verificares a tua idade através de um de três métodos: enviar uma cópia de um documento de identificação, usar um cartão de crédito ou através de um ID digital no Google Wallet.
O problema é que vários utilizadores afetados relatam que este processo de verificação está, ele próprio, cheio de falhas. Alguns afirmam que, devido a “problemas técnicos”, nem sequer conseguem aceder aos menus de definições necessários para iniciar o processo de verificação.
Isto cria um ciclo de frustração kafkiano: a tua conta é restringida por uma decisão de uma IA; para a desbloquear, tens de usar um sistema de verificação; mas o sistema de verificação está avariado, o que te impede de provar que a decisão original da IA estava errada. Ficas preso.
A pressão regulamentar e a implementação apressada
Esta situação não surge do nada. A Google, tal como outras gigantes da tecnologia, está sob uma enorme pressão de governos de todo o mundo, com leis como a “Online Safety Act” do Reino Unido a exigirem medidas mais robustas para proteger os menores.
A implementação deste sistema de verificação por IA, apesar das suas falhas evidentes, parece ser uma resposta apressada a esta pressão regulamentar. Na tentativa de mostrar que está a agir, a Google pode ter lançado uma tecnologia que ainda não está suficientemente madura, e o dano colateral são os seus próprios utilizadores legítimos, que agora têm de provar a um algoritmo que já são adultos.
Outros artigos interessantes:
