Google ha eliminado sus resúmenes experimentales impulsados por inteligencia artificial para ciertas búsquedas médicas luego de informes de que se generaron consejos demostrablemente incorrectos y peligrosos. La decisión se produce después de que The Guardian expusiera casos en los que la IA proporcionó información de salud engañosa, incluidas recomendaciones potencialmente fatales para pacientes con cáncer.
Los falsos consejos médicos provocaron una reacción inmediata
El ejemplo más alarmante citado en la investigación de The Guardian involucró a la IA de Google que aconsejaba incorrectamente a personas con cáncer de páncreas que evitaran los alimentos ricos en grasas, una recomendación que contradice las directrices médicas establecidas y podría acelerar la progresión de la enfermedad. Según se informa, la IA también proporcionó detalles inexactos sobre las pruebas vitales de la función hepática, lo que llevó a posibles diagnósticos erróneos en personas con enfermedades hepáticas graves.
Estos errores rápidamente generaron críticas por parte de los expertos médicos, quienes notaron las consecuencias de dicha información errónea en el mundo real. La IA no estaba simplemente ligeramente equivocada ; estaba dando consejos que podrían dañar directamente a los pacientes.
Respuesta de Google y problemas actuales
Google se negó a comentar específicamente sobre la eliminación de resúmenes de IA para consultas médicas. Sin embargo, el portavoz Davis Thompson defendió la característica, afirmando que “la gran mayoría proporciona información precisa” y que las imprecisiones a menudo estaban respaldadas por fuentes en línea existentes. La empresa afirmó estar trabajando en amplias mejoras y al mismo tiempo haciendo cumplir sus políticas cuando era necesario.
Este no es un incidente aislado. Las descripciones generales de la IA de Google han generado sugerencias extrañas y peligrosas, incluida la recomendación de pegamento como aderezo para la pizza y la sugerencia de que la gente coma piedras. La característica también ha sido objeto de impugnaciones legales, destacando los riesgos de desplegar al público contenido generado por IA no verificado.
El futuro de la búsqueda impulsada por IA
El incidente plantea preguntas críticas sobre la preparación de la búsqueda impulsada por IA para manejar temas delicados como la atención médica. Si bien la IA tiene el potencial de mejorar el acceso a la información, el riesgo de generar consejos falsos o engañosos sigue siendo una preocupación importante. La eliminación temporal de estas descripciones generales por parte de Google sugiere un enfoque cauteloso, pero es esencial un mayor refinamiento y pruebas rigurosas antes de que dichas características puedan integrarse de manera confiable en los resultados de búsqueda convencionales.
El incidente subraya que la IA, si bien es poderosa, aún no es infalible, especialmente en ámbitos donde la precisión es una cuestión de vida o muerte.
