A popularização da inteligência artificial trouxe consigo inúmeras facilidades, mas também novos riscos. Um dos exemplos mais recentes envolve o ChatGPT, ferramenta cada vez mais utilizada para obter recomendações de serviços online, negócios locais e até conselhos sobre casinos ou plataformas de jogo. O problema? Nem sempre as fontes citadas são aquilo que parecem.
Nos últimos meses, vários especialistas em segurança digital têm alertado para um fenómeno preocupante: o ChatGPT está a citar como fontes sites que foram pirateados, cujos domínios expiraram ou foram adquiridos por terceiros para promover conteúdos de casinos e apostas. Isto acontece porque o sistema da OpenAI não distingue entre um site legítimo e um domínio que mudou completamente de propósito.
Domínios de instituições respeitadas transformados em plataformas de jogo
A investigação conduzida por James Brockbank, fundador da Digitaloft, revelou casos concretos em que domínios anteriormente associados a instituições respeitadas, como práticas jurídicas ou organizações sem fins lucrativos, foram transformados em espaços dedicados à promoção de casinos. Por exemplo, um site de um escritório de advogados passou a alojar páginas dedicadas a casinos britânicos, enquanto um domínio que já pertenceu a uma coligação juvenil das Nações Unidas agora serve apenas para divulgar plataformas de jogo não reguladas.
O padrão repete-se com domínios de antigas instituições de caridade, alguns dos quais chegaram a ser referenciados por meios de comunicação internacionais como a BBC, CNN ou Bloomberg. Após a expiração, estes domínios foram adquiridos e reconfigurados para alojar conteúdos de apostas, mantendo a reputação digital que lhes estava associada. O ChatGPT, ao procurar informações recentes e atribuir autoridade a sites com histórico credível, acaba por recomendar estas páginas sem qualquer alerta para o utilizador.
Falhas no sistema de validação de fontes da IA
Ao contrário dos motores de busca tradicionais, que contam com mecanismos para avaliar a legitimidade e a intenção editorial dos sites, o ChatGPT baseia-se apenas na informação disponível no momento. Não possui ferramentas para detetar se um site foi comprometido ou se mudou radicalmente de conteúdo. Assim, conteúdos manipulados podem surgir nas respostas da IA, aparentemente com toda a credibilidade do mundo.
Esta vulnerabilidade é explorada por cibercriminosos, que veem nos domínios expirados uma oportunidade para ganhar visibilidade junto das ferramentas de IA, aproveitando-se da reputação digital herdada. O resultado é que recomendações sobre casinos, por exemplo, podem direcionar o utilizador para plataformas de jogo não reguladas ou até fraudulentas, sem que este se aperceba do risco.
Recomendações para utilizadores: atenção redobrada às fontes
Perante este cenário, é fundamental que cada utilizador mantenha uma postura crítica perante as respostas apresentadas pelo ChatGPT. Antes de confiar numa recomendação, vale a pena verificar o histórico e a propriedade do site citado, garantindo que a fonte mantém a sua credibilidade e relevância. Uma simples pesquisa sobre a origem do domínio pode evitar situações indesejadas e proteger o utilizador de potenciais fraudes.
A inteligência artificial veio para facilitar o acesso à informação, mas a responsabilidade de validar as fontes continua a ser, em última análise, de cada um de nós. Ao navegar neste novo ecossistema digital, a atenção e o senso crítico são as melhores defesas.
Outros artigos interessantes:
