Uma resposta da IA errada nem sempre é fácil de identificar. ChatGPT, Gemini, Copilot e outros sistemas conseguem produzir textos coerentes, apresentar números muito específicos e até citar fontes que parecem confirmar aquilo que afirmam. O problema é que uma resposta convincente não é necessariamente uma resposta correta.
Os próprios responsáveis por estas tecnologias reconhecem esta limitação. A OpenAI alerta que o ChatGPT pode produzir datas, factos, citações, estudos ou referências inexistentes e recomenda a confirmação da informação importante através de fontes fiáveis. A Google e a Microsoft fazem recomendações semelhantes para Gemini e Copilot.
Porque pode uma resposta da IA estar errada?
Os grandes modelos de linguagem não funcionam como bases de dados tradicionais. Produzem respostas a partir dos padrões aprendidos durante o treino e, quando dispõem de ferramentas de pesquisa, podem consultar informação disponível na Internet.
Esta capacidade permite responder a perguntas, resumir documentos, comparar informação e executar tarefas mais complexas. Não elimina, contudo, a possibilidade de erro.
A OpenAI utiliza o termo alucinação para descrever casos em que um modelo produz uma afirmação plausível, mas falsa. A empresa reconhece que o problema continua presente nos modelos atuais, apesar dos progressos alcançados na redução deste tipo de erro.
Nem todos os erros devem, contudo, ser classificados como alucinações. Uma IA pode utilizar uma fonte verdadeira e interpretá-la incorretamente, trabalhar com informação desatualizada, omitir contexto relevante ou chegar a uma conclusão que não resulta diretamente dos factos apresentados.
Por isso, o objetivo não deve ser apenas procurar alucinações. É necessário avaliar a resposta como um todo.
1. Apresenta números demasiado precisos sem indicar a origem
Percentagens, valores financeiros, datas, estatísticas, resultados de estudos e números de mercado estão entre os elementos que merecem maior atenção.
Imagine uma resposta que afirma:
“73,4% dos consumidores europeus utilizam inteligência artificial todas as semanas.”
A precisão do número pode transmitir confiança, mas não prova que o dado exista.
Pergunte:
- Qual é a fonte?
- Quem realizou o estudo?
- Qual foi a dimensão da amostra?
- Em que ano foi realizado?
- O estudo apresenta realmente esse valor?
Se a informação for relevante para uma decisão, procure o relatório original ou outra fonte independente.
2. A fonte existe, mas não confirma aquilo que a IA afirma
Este é um dos erros mais difíceis de identificar.
Uma resposta pode apresentar uma ligação para uma página da OpenAI, Google, Microsoft, Comissão Europeia, universidade ou publicação científica. A existência dessa página pode levar o leitor a assumir que a informação está confirmada.
Não necessariamente.
A fonte pode existir sem conter a afirmação apresentada pela IA.
A Google reconhece, na documentação sobre fontes utilizadas pelo Gemini no Workspace, que o sistema pode citar um documento que não foi diretamente utilizado para determinada informação. A empresa recomenda que o utilizador confirme a resposta através das fontes apresentadas e de outras fontes em que confie.
A regra é simples: não verifique apenas se a fonte existe. Confirme se a fonte sustenta aquilo que a IA afirma.
3. O estudo, especialista ou documento citado não existe
Uma das formas mais conhecidas de alucinação ocorre quando o modelo cria referências aparentemente credíveis.
Podem surgir:
- artigos científicos inexistentes;
- títulos de estudos inventados;
- autores incorretos;
- citações que nunca foram proferidas;
- números de documentos que não existem;
- ligações para páginas inexistentes.
A OpenAI inclui explicitamente citações, estudos, referências bibliográficas e fontes inexistentes entre os exemplos de informação que o ChatGPT pode fabricar.
Se uma resposta mencionar um estudo importante, pesquise o título, os autores e a instituição responsável. No caso de artigos científicos, procure também o DOI ou a publicação original.
Se nenhuma fonte independente confirmar a existência do documento, não o utilize como referência.
4. Responde com certeza a uma questão que admite várias respostas
A segurança com que uma frase é apresentada não representa necessariamente o grau de confiança real do modelo.
Perguntas como “qual é o melhor smartphone?”, “qual é a linguagem de programação mais segura?” ou “qual será o impacto da IA no emprego?” não têm uma única resposta objetiva.
Nestes casos, uma resposta categórica deve ser analisada com cautela.
O problema torna-se mais evidente quando faltam informações essenciais. Se perguntar qual computador deve comprar sem indicar orçamento, utilização ou prioridades, uma resposta definitiva pode assentar em pressupostos que nunca foram definidos.
A Microsoft recomenda precisamente a análise das fontes, dos pressupostos, do contexto e das limitações antes de utilizar resultados produzidos pelo Copilot numa decisão.
5. As datas ou os acontecimentos recentes não coincidem
A informação sobre acontecimentos recentes exige cuidados adicionais.
Uma página publicada hoje pode descrever um acontecimento ocorrido há vários dias. Da mesma forma, uma notícia antiga pode surgir numa pesquisa e ser interpretada como informação atual.
Antes de utilizar uma resposta sobre acontecimentos recentes, confirme:
- quando aconteceu;
- quando foi publicada a fonte;
- quando foi atualizada;
- se existe informação posterior;
- se a IA distingue previsão, anúncio e acontecimento confirmado.
Esta verificação é particularmente importante em notícias, preços, legislação, atualizações de software, disponibilidade de produtos, resultados financeiros e decisões políticas.
A OpenAI recomenda que o utilizador abra as fontes apresentadas pelo ChatGPT, confirme se sustentam a resposta e verifique a respetiva data de publicação ou atualização.
6. Mistura factos com conclusões sem fazer distinção
Uma resposta pode começar com informação factual e terminar com uma conclusão que não está diretamente sustentada por esses factos.
Considere esta sequência:
Uma empresa anuncia uma redução nas vendas. A IA explica os números corretamente e depois afirma que a empresa “está a perder relevância no mercado”.
A primeira parte pode ser factual. A segunda é uma interpretação.
Isto não significa que a conclusão esteja necessariamente errada. Significa que deve ser apresentada como análise e não como facto confirmado.
Ao avaliar uma resposta, tente separar três elementos:
factos confirmados, inferências do modelo e opiniões ou previsões.
Esta distinção torna-se especialmente importante quando a IA é utilizada em investigação, jornalismo, análise financeira ou tomada de decisões.
7. Não existe confirmação independente
Uma das verificações mais eficazes continua a ser procurar uma segunda fonte.
Se uma afirmação tiver importância suficiente para influenciar uma compra, uma decisão profissional, um artigo, um investimento ou outra ação relevante, não dependa exclusivamente da resposta do chatbot.
Sempre que possível, procure primeiro a fonte primária:
- documentação oficial;
- comunicado da empresa;
- legislação;
- organismo público;
- artigo científico;
- relatório original;
- base de dados oficial.
Depois procure uma segunda fonte independente que permita confirmar ou contextualizar a informação.
A Microsoft recomenda que factos, nomes, datas, números e recomendações importantes sejam confirmados antes de o resultado produzido pelo Copilot servir de base a uma decisão. A empresa acrescenta que o próprio Copilot pode ajudar na revisão, mas não pode certificar a correção da sua resposta.
Como verificar uma resposta da IA errada em cinco passos
Não é necessário investigar cada frase produzida por um chatbot. Para informação relevante, pode utilizar um processo simples:
Fonte → Data → Afirmação → Confirmação → Contexto
1. Fonte
Identifique de onde vem a informação.
Existe uma fonte? É primária? A entidade é credível para o assunto em causa?
2. Data
Confirme quando a informação foi publicada e quando ocorreu o acontecimento.
Uma fonte fiável pode estar desatualizada.
3. Afirmação
Abra a fonte e procure exatamente aquilo que a IA afirmou.
Não basta confirmar que a página existe.
4. Confirmação
Procure uma segunda fonte independente, especialmente para números, declarações, estudos ou informação com consequências relevantes.
5. Contexto
Verifique se a resposta deixou de fora informação capaz de alterar a interpretação.
Uma frase pode ser tecnicamente correta e, mesmo assim, transmitir uma ideia errada quando apresentada sem contexto.
Pedir à própria IA para verificar ajuda, mas não resolve o problema
É possível pedir ao ChatGPT, Gemini ou Copilot que revejam uma resposta, identifiquem afirmações que necessitam de confirmação ou apresentem fontes.
Esse processo pode revelar erros e melhorar o resultado.
Por exemplo:
“Indica quais as afirmações desta resposta que devo verificar numa fonte independente.”
Ou:
“Separa os factos confirmados das inferências e identifica as fontes para cada afirmação.”
Estas instruções são úteis, mas não substituem a confirmação externa.
A Microsoft refere que o Copilot pode funcionar como revisor, identificar pressupostos ou procurar lacunas numa resposta, mas recomenda que o resultado seja tratado como apoio ao processo de verificação, e não como autoridade final.
Porque continuam a existir alucinações de IA?
O problema não resulta apenas de uma falha ocasional do sistema.
Uma investigação publicada pela OpenAI em setembro de 2025 defende que parte das alucinações de IA está relacionada com a forma como os modelos são treinados e avaliados. Segundo os investigadores, muitos sistemas de avaliação recompensam uma resposta correta, mas não valorizam suficientemente a decisão de admitir incerteza.
Na prática, um modelo pode obter uma avaliação melhor se arriscar uma resposta do que se admitir que não sabe.
Os autores defendem, por isso, sistemas de avaliação que penalizem mais os erros e atribuam valor adequado às respostas que reconhecem incerteza.
Uma fonte não transforma automaticamente uma resposta em verdade
A integração da pesquisa na Internet tornou os sistemas de IA mais úteis para procurar informação recente e permite ao leitor consultar as fontes associadas às respostas.
Mas as citações não eliminam a necessidade de verificação.
Uma fonte pode estar desatualizada, ser mal interpretada, sustentar apenas parte de uma afirmação ou nem sequer ter sido diretamente utilizada para o ponto que pretende comprovar.
Por isso, existe uma regra que vale para praticamente qualquer sistema de inteligência artificial:
ter uma fonte é diferente de ter uma fonte que comprova a afirmação.
A utilização responsável da IA não exige desconfiar de todas as respostas. Exige saber quando uma informação merece confirmação.
Para tarefas criativas, organização de ideias ou reformulação de texto, a verificação factual pode ter pouca relevância. Quando estão envolvidos factos, números, fontes, decisões ou informação recente, a confirmação humana continua a ser necessária.
A IA pode acelerar a pesquisa. A decisão de confiar numa resposta continua a pertencer ao utilizador.
Outros artigos interessantes:
