Google retira visões geradas por IA após críticas sobre informações médicas enganosas

INTRODUÇÃO

O Google retirou temporariamente as "AI Overviews" (Visões Geradas por IA) de certas consultas de saúde após uma investigação do jornal britânico The Guardian revelar que o sistema estava fornecendo informações médicas potencialmente enganosas. A ação ocorre em meio a crescentes preocupações sobre a precisão e segurança de ferramentas de IA em contextos críticos como a saúde.

DESENVOLVIMENTO

A reportagem original do Guardian destacou que, ao buscar termos como "qual é o intervalo normal para exames de sangue do fígado", os usuários recebiam números gerados por IA que não consideravam fatores essenciais como nacionalidade, sexo, etnia ou idade. Isso poderia levar as pessoas a interpretar erroneamente seus resultados como saudáveis quando não estavam. Em resposta, o Google removeu as visões de IA para essas consultas específicas, mas variações como "intervalo de referência LFT" ainda podiam gerar os sumários automáticos. Um porta-voz da empresa afirmou ao Guardian que uma equipe interna de clínicos revisou as consultas e, em muitos casos, considerou a informação precisa e respaldada por sites de qualidade, mas não comentou sobre remoções individuais.

CONCLUSÃO

O episódio evidencia os desafios contínuos do Google em equilibrar inovação com responsabilidade na área de saúde, onde erros podem ter consequências graves. Embora a empresa tenha agido rapidamente para corrigir falhas pontuais, a persistência do problema em variações de busca sugere que soluções mais abrangentes são necessárias para garantir a confiabilidade das informações médicas geradas por IA.