O uso de ferramentas de inteligência artificial para buscar orientações médicas tornou-se uma alternativa para pacientes que enfrentam dificuldades em acessar consultas presenciais. No entanto, o conselho médico da Inglaterra e pesquisadores de universidades como Oxford alertam que a tecnologia ainda não é segura para substituir profissionais de saúde. Embora os chatbots demonstrem alta precisão em testes teóricos, o desempenho falha quando confrontados com a forma imprecisa e gradual como as pessoas relatam seus sintomas na vida real.
Um estudo conduzido pelo Laboratório de Raciocínio com Máquinas da Universidade de Oxford revelou que a precisão das ferramentas cai de 95% para apenas 35% durante conversas reais com usuários. Segundo o pesquisador Adam Mahdi, as pessoas tendem a se distrair ou esquecer detalhes importantes, o que leva a inteligência artificial a fornecer diagnósticos incorretos em dois terços dos casos monitorados. Em situações críticas, como hemorragias cerebrais, a tecnologia chegou a sugerir repouso em vez de atendimento hospitalar urgente.
A principal preocupação reside na forma como a informação é apresentada ao usuário. Diferente de uma busca tradicional na internet, onde o internauta avalia a credibilidade de diferentes sites, os chatbots oferecem respostas personalizadas e em tom autoritário, gerando uma falsa sensação de segurança. A médica Margaret McCartney destaca que essa relação direta com a máquina altera a interpretação da gravidade dos problemas, fazendo com que o paciente confie em orientações que podem ser tecnicamente equivocadas.
Empresas desenvolvedoras, como a OpenAI, afirmam que trabalham com médicos para melhorar a segurança de seus modelos, mas reforçam que as ferramentas devem ser usadas apenas para fins educativos. O pesquisador Nicholas Tiller orienta que os usuários nunca devem aceitar as respostas da IA como verdade absoluta sem uma verificação profissional qualificada. Para os especialistas, enquanto a tecnologia não for capaz de lidar com a complexidade biológica e subjetiva, o risco de erros médicos graves permanece elevado.
Veja mais notícias
Fonte: News Rondônia