Relacionados
A investigação publicada na revista Nature Medicine na última segunda-feira alerta para os riscos do uso de inteligência artificial na procura de aconselhamento médico. A conclusão é simples: as ferramentas atualmente disponíveis não ajudam os utilizadores a tomar melhores decisões sobre a sua saúde.
O estudo, conduzido por uma equipa da Universidade de Oxford, analisou o impacto dos grandes modelos de linguagem no apoio à avaliação de sintomas e à tomada de decisões sobre cuidados de saúde. Segundo os investigadores, existe uma diferença significativa entre o potencial teórico destas tecnologias e a forma como são utilizadas na prática.
O trabalho envolveu cerca de 1.300 participantes, que foram convidados a analisar diferentes cenários clínicos fictícios e a decidir quais as medidas mais adequadas. Entre os exemplos apresentados estavam situações como dores de cabeça intensas, cansaço persistente ou dificuldades respiratórias. Um dos grupos recorreu a um modelo de inteligência artificial para obter apoio, enquanto outro utilizou métodos tradicionais, como pesquisas na internet ou o seu próprio julgamento.
Os resultados mostraram que os participantes que recorreram à IA não tomaram decisões mais acertadas do que os restantes. Em vários casos, as respostas geradas pelos sistemas misturavam informações corretas com dados imprecisos, o que acabou por gerar confusão.
A análise das interações revelou ainda dificuldades na comunicação entre utilizadores e modelos digitais. Muitos participantes forneceram informações incompletas sobre os seus sintomas, enquanto os sistemas responderam, por vezes, com recomendações pouco claras ou contraditórias.
Para Andrew Bean, investigador do Instituto de Internet de Oxford e autor principal do estudo, “desenvolver testes robustos para modelos de linguagem é fundamental para compreendermos como podemos tirar partido desta nova tecnologia”. O responsável sublinha também que “a interação com humanos representa um desafio até para os melhores modelos”.
Nos últimos anos, várias entidades do setor da saúde têm defendido o uso da inteligência artificial como ferramenta de apoio inicial ao diagnóstico e à gestão de doenças. No entanto, os autores do estudo consideram que, na fase atual, estas tecnologias ainda não estão preparadas para serem integradas diretamente no atendimento aos doentes.
A equipa defende que, à semelhança do que acontece com novos medicamentos, os sistemas de IA devem ser testados em contextos reais antes de serem aplicados em larga escala, de forma a garantir a sua segurança e fiabilidade.
