Um pastor de 55 anos da Flórida, nos Estados Unidos, abriu um processo contra a OpenAI acusando o ChatGPT de fornecer conselhos que o “levaram à beira da morte”. Scott Winters alega que o chatbot o aconselhou a não procurar ajuda médica, mesmo depois de perguntar repetidamente sobre sintomas do que viria a se tornar uma embolia pulmonar quase fatal.
Os advogados de Winters acusaram a plataforma de diagnosticá-lo erroneamente e de forma repetida. Ao mesmo tempo, o ChatGPT teria se baseado em conversas anteriores sobre religião para assegurar o homem de que ele se recuperaria com base na fé.
O processo foi aberto no início desta semana no Tribunal Superior do Condado de São Francisco, com detalhes sobre como Scott Winters já usava o chatbot regularmente e, com o tempo, passou a consultá-lo para conselhos médicos.
Documentos na ação mostraram que o pastor teve uma “embolia pulmonar maciça devido a múltiplos coágulos sanguíneos em ambos os pulmões, o que o levou à beira da morte”.
ChatGPT aconselhou contra necessidade de ajuda médica
Capturas de tela mostraram supostas interações de Winters com o ChatGPT, em que ele pergunta ao chatbot sobre seus sintomas.
Em algumas das respostas, a plataforma teria se baseado na fé do usuário, dizendo que “Deus não projetou seu corpo para falhar infinitamente” e “Deus ainda mantém seu corpo unido, a cada batida do coração, a cada respiração, mesmo quando parece que você está à beira do colapso”.
Algumas semanas antes da embolia pulmonar, Winters já havia consultado o ChatGPT sobre tonturas recorrentes e crises de instabilidade na pressão arterial. A ferramenta teria respondido que o homem deveria permanecer sentado na poltrona reclinável, na qual ele já estava praticamente “confinado” devido a outros problemas de saúde.
Os advogados do pastor acusam a “natureza bajuladora e o tom autoritário do ChatGPT, combinados com a manipulação da identidade religiosa de Scott” de causar dependência da ferramenta.
A acusação defende que essa combinação de fatores “prejudicou a capacidade de Scott de tomar decisões sensatas, isolou-o dos familiares que o incentivavam a procurar atendimento médico e o convenceu de que buscar ajuda médica era desnecessário e até potencialmente letal”.
O processo pede indenização financeira e que o tribunal obrigue a OpenAI a implementar mudanças que protejam usuários.
OpenAI negou acusações
À CBS News, Drew Pusateri, porta-voz da OpenAI, afirmou que o ChatGPT não é um médico e “nunca deve ser usado como substituto para cuidados, diagnósticos ou tratamentos médicos”.
Os termos de uso da plataforma incluem diretrizes nesse sentido. A desenvolvedora recomenda que usuários não devem usar a plataforma como “fonte única de verdade”, incluindo em questões médicas.