O Google removeu suas visões gerais experimentais baseadas em IA para certas pesquisas médicas após relatos de geração de conselhos comprovadamente incorretos e perigosos. A decisão ocorre depois que o The Guardian expôs casos em que a IA forneceu informações de saúde enganosas, incluindo recomendações potencialmente fatais para pacientes com câncer.
Falsos conselhos médicos provocaram reação imediata
O exemplo mais alarmante citado na investigação do The Guardian envolveu a IA do Google aconselhando incorretamente indivíduos com câncer de pâncreas a evitar alimentos ricos em gordura – uma recomendação que contradiz as orientações médicas estabelecidas e poderia acelerar a progressão da doença. A IA também forneceu detalhes imprecisos sobre testes vitais de função hepática, levando a possíveis erros de diagnóstico para pessoas com doenças hepáticas graves.
Estes erros rapidamente atraíram críticas de especialistas médicos, que notaram as consequências reais de tal desinformação. A IA não estava simplesmente ligeiramente errada ; estava dando conselhos que poderiam prejudicar diretamente os pacientes.
Resposta do Google e problemas contínuos
O Google se recusou a comentar especificamente sobre a remoção das visões gerais de IA para consultas médicas. No entanto, o porta-voz Davis Thompson defendeu o recurso, afirmando que “a grande maioria fornece informações precisas” e que as imprecisões eram frequentemente apoiadas por fontes online existentes. A empresa afirmou estar trabalhando em amplas melhorias e, ao mesmo tempo, aplicando suas políticas quando necessário.
Este não é um incidente isolado. As visões gerais de IA do Google já geraram sugestões bizarras e perigosas, incluindo a recomendação de cola como cobertura de pizza e a sugestão de que as pessoas comam pedras. O recurso também tem sido objeto de contestações legais, destacando os riscos de distribuição ao público de conteúdo não verificado gerado por IA.
O futuro da pesquisa baseada em IA
O incidente levanta questões críticas sobre a prontidão da pesquisa baseada em IA para lidar com tópicos delicados como saúde. Embora a IA tenha potencial para melhorar o acesso à informação, o risco de gerar conselhos falsos ou enganosos continua a ser uma preocupação significativa. A remoção temporária dessas visões gerais pelo Google sugere uma abordagem cautelosa, mas refinamentos adicionais e testes rigorosos são essenciais antes que tais recursos possam ser integrados de forma confiável nos resultados de pesquisa convencionais.
O incidente sublinha que a IA, embora poderosa, ainda não é infalível, especialmente em domínios onde a precisão é uma questão de vida ou morte.
