Google a supprimé ses aperçus expérimentaux basés sur l’IA pour certaines recherches médicales à la suite de rapports faisant état de conseils manifestement incorrects et dangereux générés. Cette décision intervient après que The Guardian a révélé des cas où l’IA a fourni des informations trompeuses sur la santé, y compris des recommandations potentiellement mortelles pour les patients atteints de cancer.
De faux conseils médicaux ont déclenché une réaction immédiate
L’exemple le plus alarmant cité dans l’enquête du The Guardian concerne l’IA de Google conseillant à tort aux personnes atteintes d’un cancer du pancréas d’éviter les aliments riches en graisses – une recommandation qui contredit les directives médicales établies et pourrait accélérer la progression de la maladie. L’IA aurait également donné des détails inexacts sur les tests de la fonction hépatique vitale, conduisant à des diagnostics erronés potentiels pour les personnes souffrant de graves maladies du foie.
Ces erreurs ont rapidement suscité les critiques des experts médicaux, qui ont souligné les conséquences concrètes d’une telle désinformation. L’IA n’était pas simplement légèrement fausse ; il donnait des conseils qui pouvaient nuire directement aux patients.
Réponse de Google et problèmes persistants
Google a refusé de commenter spécifiquement la suppression des aperçus de l’IA pour les requêtes médicales. Cependant, le porte-parole Davis Thompson a défendu cette fonctionnalité, affirmant que « la grande majorité fournit des informations exactes » et que les inexactitudes étaient souvent étayées par des sources en ligne existantes. L’entreprise a affirmé travailler sur de vastes améliorations tout en appliquant ses politiques lorsque cela était nécessaire.
Il ne s’agit pas d’un incident isolé. Les aperçus de l’IA de Google ont déjà généré des suggestions bizarres et dangereuses, notamment en recommandant de la colle comme garniture de pizza et en suggérant aux gens de manger des pierres. Cette fonctionnalité a également fait l’objet de contestations judiciaires, soulignant les risques liés au déploiement public de contenu non vérifié généré par l’IA.
L’avenir de la recherche basée sur l’IA
L’incident soulève des questions cruciales sur la capacité de la recherche basée sur l’IA à traiter des sujets sensibles tels que les soins de santé. Même si l’IA a le potentiel d’améliorer l’accès à l’information, le risque de générer des conseils faux ou trompeurs reste une préoccupation majeure. La suppression temporaire de ces aperçus par Google suggère une approche prudente, mais des affinements supplémentaires et des tests rigoureux sont essentiels avant que de telles fonctionnalités puissent être intégrées de manière fiable dans les résultats de recherche grand public.
L’incident souligne que l’IA, bien que puissante, n’est pas encore infaillible, en particulier dans les domaines où la précision est une question de vie ou de mort.
