Google heeft zijn experimentele AI-aangedreven overzichten voor bepaalde medische zoekopdrachten verwijderd naar aanleiding van meldingen van aantoonbaar onjuiste en gevaarlijke adviezen. De beslissing komt nadat The Guardian gevallen aan het licht bracht waarin de AI misleidende gezondheidsinformatie verstrekte, waaronder potentieel fatale aanbevelingen voor kankerpatiënten.
Vals medisch advies leidde tot onmiddellijke terugslag
Het meest alarmerende voorbeeld dat in het onderzoek van The Guardian wordt aangehaald, betrof de AI van Google die personen met alvleesklierkanker ten onrechte adviseerde om vetrijke voedingsmiddelen te vermijden – een aanbeveling die in tegenspraak is met de gevestigde medische richtlijnen en de progressie van de ziekte zou kunnen versnellen. De AI gaf naar verluidt ook onnauwkeurige details over vitale leverfunctietests, wat leidde tot een mogelijke verkeerde diagnose bij mensen met ernstige leveraandoeningen.
Deze fouten leidden al snel tot kritiek van medische experts, die de reële gevolgen van dergelijke verkeerde informatie opmerkten. De AI was niet simpelweg enigszins verkeerd ; het gaf advies dat patiënten rechtstreeks zou kunnen schaden.
Reactie van Google en lopende problemen
Google weigerde specifiek commentaar te geven op het verwijderen van AI-overzichten voor medische vragen. Woordvoerder Davis Thompson verdedigde dit artikel echter en stelde dat “de overgrote meerderheid nauwkeurige informatie verstrekt” en dat onnauwkeurigheden vaak werden ondersteund door bestaande online bronnen. Het bedrijf beweerde te werken aan brede verbeteringen en tegelijkertijd zijn beleid af te dwingen wanneer dat nodig was.
Dit is geen geïsoleerd incident. De AI-overzichten van Google hebben eerder bizarre en gevaarlijke suggesties opgeleverd, waaronder het aanbevelen van lijm als pizza-topping en de suggestie dat mensen stenen eten. De functie is ook het onderwerp geweest van juridische uitdagingen, waarbij de risico’s van het inzetten van niet-geverifieerde, door AI gegenereerde inhoud voor het publiek worden benadrukt.
De toekomst van AI-aangedreven zoeken
Het incident roept kritische vragen op over de bereidheid van AI-aangedreven zoeken om gevoelige onderwerpen zoals gezondheidszorg aan te pakken. Hoewel AI het potentieel heeft om de toegang tot informatie te verbeteren, blijft het risico op het genereren van vals of misleidend advies een groot probleem. De tijdelijke verwijdering door Google van deze overzichten duidt op een voorzichtige aanpak, maar verdere verfijning en rigoureus testen zijn essentieel voordat dergelijke functies op betrouwbare wijze kunnen worden geïntegreerd in reguliere zoekresultaten.
Het incident onderstreept dat AI, hoewel krachtig, nog niet onfeilbaar is, vooral in domeinen waar nauwkeurigheid een kwestie van leven of dood is.
