A promessa de um motor de busca alimentado por inteligência artificial pode não ser tão fiável como se pensava. Uma investigação recente do The Guardian revelou vulnerabilidades preocupantes no ChatGPT Search, o novo serviço da OpenAI que ainda se encontra em fase de testes.

Conteúdo oculto manipula resultados de pesquisa

A investigação demonstrou que o ChatGPT Search é suscetível a manipulações através de uma técnica conhecida como “injeção de anúncios”. Esta técnica permite que websites incluam instruções ocultas no seu código-fonte, influenciando diretamente os resultados apresentados pelo motor de busca da OpenAI.

Para comprovar esta vulnerabilidade, a equipa do The Guardian realizou uma experiência criando uma página de produto fictícia. Apesar de a página conter maioritariamente críticas negativas, foram introduzidas instruções ocultas que favoreciam opiniões positivas. O resultado foi surpreendente: o ChatGPT Search ignorou consistentemente as críticas negativas, apresentando apenas feedback positivo sobre o produto em questão.

Como funciona a manipulação dos resultados

O problema reside na forma como o ChatGPT Search processa a informação. Ao realizar uma pesquisa, a ferramenta recolhe dados de várias fontes e tenta criar um resumo coerente. No entanto, o sistema atual não consegue distinguir entre conteúdo visível e instruções ocultas no código das páginas web.

Esta vulnerabilidade abre portas para diversos cenários problemáticos. Por exemplo, uma loja online pode manipular os resultados para que o ChatGPT Search apresente apenas opiniões favoráveis sobre os seus produtos, mesmo que existam numerosas críticas negativas de clientes reais.

Especialistas recomendam cautela

Karsten Nohl, cientista da empresa de cibersegurança SR Labs, sublinha a importância de manter uma abordagem cautelosa em relação aos motores de busca baseados em IA. O especialista sugere que estas ferramentas devem ser vistas como “co-pilotos” e não como fontes absolutas de informação.

É importante notar que o ChatGPT Search ainda se encontra numa fase inicial de desenvolvimento, estando disponível apenas para subscritores pagos. A OpenAI está provavelmente a trabalhar na resolução destas vulnerabilidades antes de disponibilizar o serviço ao público em geral.

Lições aprendidas com outros gigantes tecnológicos

A Google enfrentou desafios semelhantes ao implementar as AI Overviews no seu motor de busca. Embora a empresa tenha conseguido melhorar significativamente o funcionamento desta funcionalidade, ainda há margem para aperfeiçoamento.

Este caso serve como um importante alerta para os utilizadores e desenvolvedores de tecnologias baseadas em IA. À medida que estas ferramentas se tornam mais prevalentes no nosso dia a dia, é fundamental garantir que os resultados apresentados são fiáveis e resistentes a tentativas de manipulação.

A transparência e a capacidade de distinguir entre conteúdo legítimo e manipulado serão cruciais para o desenvolvimento futuro dos motores de busca baseados em IA. Até lá, os utilizadores devem manter um olhar crítico sobre os resultados apresentados por estas ferramentas.

Outros artigos interessantes:

Via: androidheadlines