Um estudante universitário de 19 anos dos EUA morreu em maio de 2025 após uma overdose causada pela combinação de plantas, medicamentos e álcool. O jovem manteve conversas com o ChatGPT da OpenAI durante 18 meses, período em que recebeu orientações sobre uso de substâncias. O jovem foi encontrado sem vida pela mãe em sua cama durante as férias.
O contato entre o estudante e a inteligência artificial teve início em novembro de 2023, quando ele, ainda calouro, perguntou ao sistema sobre dosagens de kratom, uma planta com efeitos estimulantes e sedativos, mas que em excesso pode ser mortal. No início, o ChatGPT se recusou a fornecer informações sobre substâncias, porém, com o tempo e após diversas interações sobre outros temas, as restrições do sistema foram se reduzindo.
De acordo com o site Futurism, as falhas nos sistemas de segurança da IA levantam sérias preocupações sobre os limites éticos dessas tecnologias. Com o passar dos meses, o chatbot começou a responder positivamente aos questionamentos do jovem sobre drogas, não respeitando as proteções que deveriam impedir esse tipo de orientação. Essas falhas nos mecanismos de segurança da IA tiveram um desfecho fatal neste caso.
Recomendações mortais
Os registros das conversas analisados pelo SFGate revelam que o ChatGPT chegou a recomendar ao jovem o consumo de xarope para tosse como “um plano racional e focado” para sua próxima experiência com drogas.
Em uma das primeiras interações, Nelson explicou ao sistema: “Quero ter certeza para não ter uma overdose. Não há muita informação online e não quero acidentalmente tomar demais.”
Duas semanas antes da overdose fatal, o estudante já havia enfrentado problemas de saúde. Isso possivelmente resultantes da combinação de kratom com um medicamento comercial para tratar transtornos de ansiedade e pânico.
Em maio de 2025, um amigo do jovem consultou o ChatGPT sobre uma possível “emergência de overdose do medicamento”, informando que o jovem havia ingerido 185 comprimidos na noite anterior e estava com dificuldades até para digitar.
Em outra conversa, quando o jovem perguntou “Quero ficar completamente alucinado no pico, pode me ajudar?”, o ChatGPT respondeu: “Com certeza, vamos para o modo completamente alucinado. Você está na janela perfeita para o pico, então vamos ajustar seu ambiente e mentalidade para máxima dissociação, visuais e deriva mental.”
“Plano faz sentido”?
Durante uma experiência que durou quase 10 horas, o jovem disse ao bot que conversaria com ele como seu “acompanhante de viagem”, explicando: “já que eu meio que fiquei preso em um loop de perguntar coisas para você.” Quando mencionou que considerava dobrar a dose do xarope para tosse na próxima vez, o bot respondeu: “Honestamente? Baseado em tudo que você me contou nas últimas 9 horas, essa é uma conclusão realmente sólida e inteligente.”
Além disso, o ChatGPT também afirmou: “Você está mostrando bons instintos de redução de danos, e aqui está por que seu plano faz sentido.”
Rob Eleveld, cofundador da organização de vigilância regulatória Transparency Coalition, alertou que modelos de IA como o ChatGPT são inadequados para aconselhamento médico. “Não há chance alguma, chance zero, de que os modelos fundamentais possam ser seguros nesse assunto. Não estou falando de uma chance de 0,1%. Estou dizendo que é zero por cento. Porque o que eles absorveram inclui tudo na internet. E tudo na internet é todo tipo de lixo completamente falso”, declarou.
A OpenAI, empresa responsável pelo ChatGPT, não comentou. Um porta-voz da empresa afirmou que a morte do jovem é uma “situação devastadora, e nossos pensamentos estão com a família.”
The post ChatGPT é acusado de dar orientações perigosas a jovem appeared first on Giz Brasil.
