Você deve confiar em conselhos de saúde de um chatbot de IA?

De um ano para cá, Abi vem usando o ChatGPT — um dos mais conhecidos chatbots de inteligência artificial (IA) — para ajudar a cuidar da sua saúde.

O apelo é claro. Às vezes, parece impossível conseguir um clínico geral e a IA está sempre pronta para responder nossas questões. E o chatbot também já foi aprovado com folga em alguns exames médicos.

Mas será que podemos confiar nas respostas do ChatGPT, Gemini e Grok? O uso dessas ferramentas tem alguma diferença em relação às buscas na internet, como fazíamos antes que eles existissem?

Ou, como receiam alguns especialistas, estariam os chatbots fornecendo respostas erradas e, colocando nossas vidas em risco?

Abi é de Manchester, na Inglaterra. Ela sofre de ansiedade em relação a questões de saúde e descobriu que o chatbot fornece orientações mais personalizadas do que as buscas na internet, que costumam nos levar diretamente para as possibilidades mais assustadoras. Leia também: Como Japão abandonou política pacifista e se opôs à China

"Ele meio que permite resolver problemas em conjunto", ela conta. "É quase como conversar com o seu médico."

Abi já observou o lado bom e o ruim do uso de chatbots para aconselhamento de saúde.

Certa vez, ela achou que estivesse com infecção urinária. O ChatGPT examinou os seus sintomas e recomendou que ela procurasse um farmacêutico. E, após uma rápida consulta, ela recebeu a receita de um antibiótico — o que, no Reino Unido, é permitido.

Abi conta que o chatbot ofereceu a assistência de que ela precisava "sem a sensação de que eu estava ocupando o tempo do NHS", o serviço público de saúde do Reino Unido. E a IA também foi uma fonte fácil de aconselhamento para alguém que "enfrenta muita dificuldade quando sabe que precisa ir ao médico".

Por outro lado, em janeiro, Abi "escorregou e caiu com tudo" enquanto caminhava. Ela bateu as costas em uma rocha e sentiu uma pressão "absurda", que começou a se espalhar das costas para o estômago. Por isso, ela buscou orientação da IA que estava no seu bolso. Mais de mundo

"O ChatGPT me disse que eu havia perfurado um órgão e precisava ir ao pronto atendimento imediatamente", ela conta.

A IA "certamente entendeu errado". Leia também: Trump cancela ida de enviados americanos ao Paquistão para negociaçōes com Irã

É difícil saber quantas pessoas como Abi usam chatbots em busca de assistência em questões de saúde.

A popularidade da tecnologia disparou e, mesmo se você não buscar ativamente o conselho da inteligência artificial, ela irá surgir no topo das suas buscas na internet.

Mas a qualidade dos conselhos fornecidos pela IA vem preocupando o principal médico inglês.

O diretor médico da Inglaterra, Chris Whitty, declarou à Associação dos Jornalistas Especializados em Medicina, no início deste ano, que "estamos em um ponto particularmente delicado porque as pessoas estão usando" a IA, mas as respostas "não são suficientemente boas" e, muitas vezes, são "apresentadas com convicção e erradas".

'Quase perfeitos', mas...