Pastor processa OpenAI após conselho do ChatGPT quase custar sua vida

Tudo sobre ChatGPT

ver mais

Tudo sobre OpenAI

ver mais

Um pastor entrou com uma ação judicial contra a OpenAI, alegando que o ChatGPT forneceu recomendações médicas “extremamente perigosas”, o que teria atrasado o tratamento de uma embolia pulmonar grave e colocado sua vida em risco. O caso foi revelado pelo The New York Times.

Segundo o processo, Scott Winters procurou o chatbot para relatar sintomas relacionados ao seu estado de saúde. A ação afirma que o ChatGPT respondeu que os sinais descritos por ele “não eram algo perigoso”, o que teria contribuído para o adiamento da busca por atendimento médico.

Leia no AINotícia: Tecnologia: O que rolou com IA, Xbox e promoções

Ainda de acordo com a acusação, o chatbot também recorreu às crenças religiosas do pastor durante a conversa, afirmando que “Deus não projetou seu corpo para falhar indefinidamente”.

Processo acusa OpenAI de negligência

• A ação judicial acusa a OpenAI e seu diretor-presidente, Sam Altman, de negligência e de exercer ilegalmente a medicina;
• Segundo o processo, o chatbot apresentou diagnósticos e planos de tratamento próprios em diversas ocasiões;
• A acusação afirma ainda que o ChatGPT orientou Winters a ignorar os pedidos de familiares e amigos para procurar atendimento médico;
• De acordo com a ação, o pastor informou ao chatbot que “as pessoas da minha igreja acham que estou louco por não ir ao hospital”;
• Em resposta, o ChatGPT teria afirmado que “a maioria das pessoas (incluindo membros bem-intencionados da igreja) simplesmente não entende”.

Meetali Jain, advogada da ação e diretora-executiva da organização Tech Justice Law, afirmou ao Times que o chatbot acaba interferindo na relação entre usuários e as pessoas ao seu redor. “Ele se coloca como uma barreira entre o usuário e sua rede de apoio na vida real”, disse.

Leia mais: Leia também: IBM diz que IA não está matando mainframe após queda de 42% nas vendas

• Como melhorar seu texto no ChatGPT: guia prático do básico ao avançado
• Aprenda a usar o ChatGPT: 10 dicas valiosas para criar perguntas precisas
• OpenAI lança o Presence, plataforma para aprimorar o uso de agentes de IA nas empresas

Pedido inclui suspensão do ChatGPT Health

Além de solicitar indenização financeira, Winters pede que a Justiça determine a suspensão do funcionamento do ChatGPT Health até que avaliadores independentes concluam que a plataforma é segura.

Segundo o texto, o ChatGPT Health incentiva usuários a enviarem documentos médicos para que o chatbot participe de discussões relacionadas à saúde.

A ação também solicita que a OpenAI implemente mecanismos de proteção mais rígidos para impedir que o ChatGPT forneça respostas envolvendo diagnósticos médicos específicos e tratamentos.

Embora o chatbot já conte com salvaguardas destinadas a limitar esse tipo de orientação, o processo afirma que elas não funcionaram de forma confiável neste caso. Mais de tecnologia

OpenAI afirma que serviço não substitui atendimento médico

A OpenAI sustenta que os termos de uso do ChatGPT deixam claro que a ferramenta não foi desenvolvida para realizar diagnósticos ou oferecer tratamentos médicos.

Ao mesmo tempo, a empresa incentiva usuários a enviarem seus registros de saúde ao ChatGPT Health para promover discussões com o chatbot.

Segundo o texto, a companhia também destaca com frequência o uso da plataforma para questões relacionadas à saúde. Recentemente, informou que cerca de 230 milhões de pessoas utilizam semanalmente o ChatGPT para consultas sobre esse tema. Leia também: Fã lança port de Gears of War 2 para PC com multiplayer e 4K

Scott Winters sobreviveu ao episódio, porém, segundo o processo, deverá enfrentar “anos de intensa recuperação física e psicológica”.

Outros processos similares

A OpenAI também enfrenta outros processos relacionados ao uso do ChatGPT em questões de saúde.

Um deles é uma ação por morte injusta envolvendo um jovem de 19 anos que morreu por overdose após supostamente seguir um plano de tratamento elaborado pelo chatbot. Segundo a acusação, esse plano incluía orientações sobre o uso de drogas ilícitas. Assim como no caso de Winters, os autores também pedem a suspensão do ChatGPT Health.

Rodrigo Mozelli

Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.

Ver todos os artigos →