OMS adverte sobre o uso de chatbots como o ChatGPT
A Organização Mundial da Saúde (OMS) pediu nesta terça-feira que a população tome precauções com chatbots como o ChatGPT.
“A OMS pede cautela ao usar grandes ferramentas de modelagem de linguagem (LLM) baseadas em inteligência artificial (IA) para proteger e promover o bem-estar, a segurança e a autonomia dos indivíduos e preservar a saúde pública”, informou a instituição.
A agência apontou que os dados usados para treinar a IA na tomada de decisões poderiam ser tendenciosos e gerar informações imprecisas, o que representaria um risco à saúde .
A OMS destacou o potencial da IA para a saúde. No entanto, reiterou que é “imperativo” avaliar os riscos destas plataformas quando são utilizadas para melhorar o acesso à informação de saúde, bem como quando são utilizadas como ferramentas de apoio à tomada de decisão e diagnóstico.
“Os LLMs geram respostas que podem parecer confiáveis e plausíveis para um usuário final; no entanto, essas respostas podem estar completamente incorretas ou conter erros graves , especialmente no caso da saúde”, disse a agência.
Finalmente, a OMS propôs que as preocupações com o uso dessa tecnologia sejam abordadas antes que ela seja amplamente utilizada por usuários e organizações que prestam serviços médicos.
