Os pais de Bowen Wan, engenheira de software chinesa de 31 anos que vivia em Seattle, nos Estados Unidos, acusam o ChatGPT de incentivar a filha a interromper o tratamento para epilepsia antes de sua morte. Ao jornal The New York Times, o pai, Qun Wan, afirmou que está processando a OpenAI, empresa responsável pelo chatbot.
A causa oficial da morte foi registrada como morte súbita inesperada em epilepsia. Segundo a reportagem, Bowen trocou mais de 270 mensagens com a ferramenta ao longo de três anos, período em que vivia isolada e enfrentava tensões no trabalho. A última conversa ocorreu três dias antes de ela ser encontrada morta em seu apartamento.
Qun afirma que, ao acessar o celular da filha após a morte, encontrou cronogramas elaborados pelo ChatGPT para reduzir a dose do medicamento de 400 miligramas a zero em poucas semanas. Ele também acusa a ferramenta de minimizar sintomas relatados pela engenheira e ajudá-la a manipular mensagens destinadas aos médicos.
O The New York Times também teve acesso às conversas e identificou pelo menos 158 menções em que Bowen demonstrava preocupação com a redução da medicação. Segundo a jornalista Teddy Rosenbluth, responsável pela reportagem, o chatbot a incentivava a continuar apesar dos sinais de sofrimento médico.
Conversas indicavam mudanças sem avisar o médico
Em um dos diálogos reproduzidos pelo jornal, Bowen perguntou se poderia cortar os comprimidos sem comunicar o médico. O ChatGPT respondeu afirmativamente e descreveu a prática como um “ajuste de dosagem auto-iniciado”, alegando que seria tolerada e até tacitamente permitida por alguns profissionais.
Em outra conversa, a engenheira relatou exaustão e perguntou se deveria voltar a tomar o remédio. A ferramenta recomendou que ela permanecesse sem a medicação, mesmo diante de dificuldades de fala e sono. Ao receber um relato de pressão no cérebro, respondeu que o órgão estava “trabalhando duro para se reconstruir”.
Antes da morte, Bowen havia contado ao pai, que mora na China, que estava diminuindo a dose. Qun pediu que ela procurasse um médico. Dias depois, sem conseguir contato com a filha após várias ligações, solicitou ajuda ao filho de uma vizinha, que foi ao apartamento acompanhado de amigos e encontrou a engenheira morta.
Os pais viajaram aos Estados Unidos para a cremação da filha e acessaram o histórico do aplicativo. São essas conversas que sustentam a acusação da família de que as orientações do chatbot contribuíram para a interrupção do tratamento e para a morte de Bowen.
