Você deve confiar em conselhos de saúde de um chatbot de IA?

Consultando o ChatGPT para questões de saúde

De um ano para cá, Abi, uma residente de Manchester, na Inglaterra, tem utilizado o ChatGPT, um dos mais populares chatbots de inteligência artificial, para cuidar da sua saúde. Com a dificuldade de conseguir uma consulta médica, a AI se tornou uma alternativa sempre pronta para responder suas perguntas. Alguns especialistas elencam preocupações sobre a confiabilidade das respostas fornecidas por esses serviços.

Praticidade e personalização

Abi percebeu que as orientações do ChatGPT eram mais personalizadas comparadas às informações que encontra nas buscas tradicionais na internet. Ela comentou: "Ele permite resolver problemas em conjunto, quase como conversar com o seu médico." Em determinadas situações, o chatbot a ajudou a obter recomendações valiosas, como ao suspeitar de uma infecção urinária, quando ele sugeriu que procurasse um farmacêutico.

Os riscos de depender da IA

Entretanto, nem tudo foi positivo. Em uma ocasião, após uma queda em que sentiu dores intensas, o ChatGPT sugeriu que ela havia perfurado um órgão e precisava ir ao pronto atendimento imediatamente. Após horas de espera, Abi descobriu que não havia nada grave. Para ela, isso demonstrou que é importante analisar os conselhos recebidos com cautela.

O dilema da precisão dos chatbots

Embora alguns estudos estejam revelando que os chatbots podem fornecer conselhos precisos até 95% das vezes em cenários bem definidos, a realidade da interação humana com a IA muitas vezes resulta em diagnósticos errados em dois terços das consultas. A maneira como as informações são compartilhadas pelo usuário pode impactar a precisão das respostas, destacando a importância de uma abordagem cuidadosa.

A diferença entre chatbots e buscas tradicionais

A clínica geral Margaret McCartney destaca que a sensação de um relacionamento pessoal com um chatbot pode alterar a interpretação das informações, fazendo os usuários acreditarem que estão recebendo conselhos mais confiáveis. Em contraste, as buscas tradicionais em sites de saúde costumam conduzir o usuário a fontes mais confiáveis.

O alerta dos especialistas

O diretor médico da Inglaterra, Chris Whitty, expressou preocupações sobre a qualidade das respostas fornecidas pelas IAs, afirmando que muitas vezes as respostas são "apresentadas com convicção e erradas". Especialistas como Nicholas Tiller ressaltam que, por serem projetados para transmitir credibilidade, os chatbots podem levar usuários a confiarem em informações potencialmente prejudiciais sem a devida verificação.

Considerações finais

A OpenAI, responsável pelo desenvolvimento do ChatGPT, reconhece a importância de fornecer informações de saúde confiáveis e informa que continua a trabalhar com médicos para melhorar seus modelos. Abi, mesmo continuando a usar chatbots, alerta para a necessidade de ouvirmos as orientações com um olhar crítico e entender que muitas vezes "ele entende errado as coisas".