Uma recente investigação conduzida por pesquisadores da Universidade de Nova Iorque revelou as dificuldades que as pessoas enfrentam ao distinguir entre respostas geradas pelo chatbot da OpenAI, o ChatGPT, e as fornecidas por profissionais de saúde humanos.
O estudo teve como objetivo explorar o potencial dos chatbots na assistência à comunicação entre pacientes e profissionais de saúde, bem como avaliar a confiança e a fiabilidade das suas respostas.
Descobertas do Estudo
O estudo apresentou aos participantes uma série de perguntas de pacientes e respostas, metade das quais foram geradas pelo ChatGPT e a outra metade por profissionais de saúde humanos. Os resultados revelaram as seguintes descobertas-chave:
Dificuldade em diferenciar respostas
Em média, os participantes identificaram corretamente as respostas do chatbot 65,5% das vezes e as respostas dos profissionais 65,1% das vezes. Isto indica que os participantes tiveram dificuldade em distinguir entre as duas fontes de informação. A capacidade de identificar a fonte variou segundo as diferentes perguntas, sugerindo que certos tópicos ou complexidades apresentaram mais desafios na diferenciação.
Confiança nas respostas do chatbot
Os participantes expressaram geralmente uma confiança moderada nas respostas do chatbot, com uma pontuação média de 3,4 numa escala de 5 pontos. No entanto, a confiança nas respostas do chatbot foi menor para tarefas com maior complexidade relacionada com a saúde, como conselhos de diagnóstico e tratamento. Por outro lado, questões logísticas e cuidados preventivos receberam classificações de confiança mais elevadas.
Implicações e recomendações
As descobertas do estudo têm importantes implicações para o uso de chatbots na comunicação em saúde:
Potencial para tarefas administrativas e gestão de doenças crónicas
Os chatbots têm o potencial de ajudar na comunicação entre pacientes e profissionais de saúde, particularmente para tarefas administrativas e gestão comum de doenças crónicas. Estas áreas frequentemente envolvem informações diretas e podem beneficiar da eficiência e acessibilidade oferecidas pelas interações com chatbots.
Cautela em papéis clínicos
Contudo, o estudo sublinha a necessidade de cautela e julgamento crítico ao depender de conselhos gerados por chatbots para tarefas clínicas mais complexas. Conselhos de diagnóstico e tratamento, em particular, devem ser abordados com cuidado, pois os chatbots podem não possuir o mesmo nível de especialização e julgamento matizado que os profissionais de saúde humanos.
Limitações e pesquisas futuras
O estudo destaca as limitações da atual tecnologia de chatbot e os potenciais preconceitos dos modelos de IA. Mais pesquisas são necessárias para refinar e melhorar as capacidades dos chatbots, garantindo a sua fiabilidade, precisão e adequação para diferentes tarefas de saúde. Processos de avaliação e validação contínuos devem ser implementados para melhorar o desempenho e a confiabilidade dos chatbots em contextos de saúde.
Outros artigos interessantes:
