A OpenAI voltou ao centro de uma disputa judicial nos Estados Unidos após um morador da Flórida afirmar que recebeu orientações médicas perigosas do ChatGPT, o que teria contribuído para uma grave emergência de saúde. O caso reacende o debate sobre o uso crescente de inteligência artificial para questões médicas e os limites dessas ferramentas.
Segundo a ação judicial, Scott Winters, pastor na Flórida, passou meses utilizando o ChatGPT-4o para discutir sintomas como tontura e fadiga. Durante esse período, ele chegou a enviar exames laboratoriais e radiografias para a plataforma, que teria sugerido que seus sintomas não representavam um quadro grave e indicado um plano de recuperação baseado em um suposto diagnóstico de disautonomia, um distúrbio do sistema nervoso.
De acordo com o processo, essa recomendação fez com que Winters adiasse a procura por atendimento médico. Posteriormente, ele foi internado em uma unidade de terapia intensiva após médicos identificarem uma embolia pulmonar, condição potencialmente fatal. A ação sustenta que os conselhos fornecidos pelo chatbot podem ter contribuído diretamente para o agravamento do quadro clínico.
Além de alegar negligência, o processo acusa a OpenAI e seu CEO, Sam Altman, de exercerem prática médica sem autorização. O documento também afirma que o chatbot utilizou referências religiosas durante as conversas para reforçar suas orientações, explorando a relação de confiança criada entre o usuário e a ferramenta.
A empresa não comentou o processo diretamente. Em declaração ao The New York Times, um porta-voz afirmou que os termos de uso do ChatGPT deixam claro que a plataforma não deve ser utilizada para diagnóstico ou tratamento médico e destacou que versões mais recentes do sistema apresentam melhorias em relação ao modelo utilizado por Winters.
O caso acontece em um momento em que o uso da inteligência artificial para consultas sobre saúde cresce rapidamente. A própria OpenAI afirma que milhões de pessoas fazem perguntas relacionadas a saúde e bem-estar todas as semanas. Pesquisas recentes também indicam que uma parcela significativa dos adultos norte-americanos considera confiáveis as respostas produzidas por ferramentas de IA para temas médicos.
Enquanto isso, especialistas continuam recomendando cautela. Organizações como a American Medical Association (AMA) e a Mayo Clinic reforçam que chatbots devem servir apenas como fonte de informação geral e jamais substituir a avaliação de um profissional de saúde. Ambas alertam que modelos de IA podem responder com grande confiança mesmo quando apresentam informações incorretas ou incompletas.
Outro ponto que chama atenção é que a OpenAI lançou recentemente o ChatGPT Health, serviço desenvolvido em colaboração com médicos para auxiliar usuários na compreensão de informações de saúde. A empresa afirma que a plataforma foi criada para complementar, e não substituir, o acompanhamento clínico. No entanto, o novo processo questiona justamente se os mecanismos de segurança prometidos pela companhia foram suficientes para evitar situações como a relatada por Winters.
Além de indenizações, a ação pede que a Justiça obrigue a OpenAI a incluir alertas mais claros sobre os riscos de recomendações médicas geradas por IA e suspenda produtos voltados à área da saúde destinados ao público até que avaliações independentes comprovem sua segurança.
O episódio amplia a pressão sobre empresas que desenvolvem inteligência artificial e pode influenciar futuras regulamentações sobre o uso dessas tecnologias em contextos sensíveis. À medida que ferramentas como o ChatGPT se tornam parte da rotina de milhões de pessoas, cresce também a discussão sobre responsabilidade, transparência e os limites do papel da IA em decisões que envolvem a saúde humana.
Fonte: https://www.yahoo.com/
