É importante ter cuidado com os conselhos dados pela Inteligência Artificial, principalmente quando se trata de assuntos relacionados com a saúde. Foi este o alerta deixado por uma revista de saúde norte-americana depois de um homem de 60 anos ter contraído uma doença rara após uma interação sobre a remoção de sal da sua dieta com o ChatGPT.

O artigo foi publicado na revista Annals of Internal Medicine e revela, segundo o The Guardian, o caso de um homem de 60 anos que desenvolveu bromismo - uma intoxicação por ingestão excessiva de substâncias compostas com bromo - após consultar o chatbot de inteligência artificial. Trata-se de uma síndrome bastante conhecida no século XX, que se acredita ter contribuído para um em cada 10 internamentos psiquiátricos na altura.

O paciente terá revelado aos médicos que, depois de ler sobre os efeitos negativos do sal de cozinha, questionou o ChatGPT sobre outras opções viáveis para o eliminar da sua dieta. Acabou a tomar brometo de sódio durante três meses. Isto, apesar de ter lido que “o cloreto pode ser trocado por brometo, embora provavelmente para outros fins, como limpeza”.

"Uso da IA pode contribuir para o desenvolvimento de resultados adversos à saúde"

Para os autores do artigo, da Universidade de Washington, em Seattle, este é um caso bastante elucidativo de como “o uso da inteligência artificial pode contribuir para o desenvolvimento de resultados adversos à saúde que poderiam ser evitados”.

Apesar de não terem tido acesso aos registos das conversas, os autores fizeram por eles próprios uma pesquisa e revelam que a resposta que receberam também incluiu o brometo e não tem nenhuma informação ou aviso específico sobre os perigos do consumo.

Os autores reconhecem que a inteligência artificial pode ser uma ponte entre os cientistas e o público, mas alertam que a tecnologia pode promover “informações descontextualizadas” e complicar o diagnóstico.

ChatGPT não pretende tratar doenças

Por isso, os médicos devem tentar sempre perceber de onde é que os pacientes tiraram informações. Neste caso em específico, diz o artigo, o homem chegou ao hospital a dizer que tinha sido envenenado por um vizinho. Tinha sede, mas negou a água que lhe foi oferecida.

Acabou a ser internado, tendo tentado fugir. Apenas quando estabilizou, é que foi possível perceber que se tratava de um caso de bromismo devido aos sintomas que apresentava: acne facial, sede excessiva e insónias.