Google hat seine experimentellen KI-gestützten Übersichten für bestimmte medizinische Suchanfragen entfernt, nachdem Berichte über nachweislich falsche und gefährliche Ratschläge generiert wurden. Die Entscheidung fällt, nachdem The Guardian Fälle aufgedeckt hat, in denen die KI irreführende Gesundheitsinformationen bereitgestellt hat, darunter auch potenziell tödliche Empfehlungen für Krebspatienten.
Falsche medizinische Ratschläge lösten sofortige Gegenreaktionen aus
Das alarmierendste Beispiel, das in der Untersuchung des „Guardian“ angeführt wurde, betraf die fälschliche Empfehlung der künstlichen Intelligenz von Google an Personen mit Bauchspeicheldrüsenkrebs, fettreiche Lebensmittel zu meiden – eine Empfehlung, die etablierten medizinischen Leitlinien widerspricht und das Fortschreiten der Krankheit beschleunigen könnte. Berichten zufolge machte die KI auch ungenaue Angaben zu lebenswichtigen Leberfunktionstests, was bei Personen mit schweren Lebererkrankungen zu einer möglichen Fehldiagnose führen konnte.
Diese Fehler stießen schnell auf Kritik von medizinischen Experten, die die realen Konsequenzen solcher Fehlinformationen erkannten. Die KI war nicht einfach leicht falsch ; Es handelte sich um Ratschläge, die Patienten direkt schaden könnten.
Antwort von Google und aktuelle Probleme
Google lehnte es ab, sich speziell zur Entfernung von KI-Übersichten für medizinische Anfragen zu äußern. Allerdings verteidigte Sprecher Davis Thompson die Funktion mit der Begründung, dass „die überwiegende Mehrheit genaue Informationen bereitstellt“ und dass Ungenauigkeiten häufig durch bestehende Online-Quellen bestätigt würden. Das Unternehmen gab an, an umfassenden Verbesserungen zu arbeiten und bei Bedarf auch seine Richtlinien durchzusetzen.
Dies ist kein Einzelfall. Die KI-Übersichten von Google haben zuvor bizarre und gefährliche Vorschläge hervorgebracht, darunter die Empfehlung, Kleber als Pizzabelag zu verwenden, und der Vorschlag, dass Menschen Steine essen sollten. Die Funktion war auch Gegenstand rechtlicher Anfechtungen und verdeutlichte die Risiken der Bereitstellung ungeprüfter KI-generierter Inhalte für die Öffentlichkeit.
Die Zukunft der KI-gestützten Suche
Der Vorfall wirft kritische Fragen hinsichtlich der Eignung der KI-gestützten Suche für den Umgang mit sensiblen Themen wie dem Gesundheitswesen auf. Obwohl KI das Potenzial hat, den Zugang zu Informationen zu verbessern, bleibt das Risiko, falsche oder irreführende Ratschläge zu generieren, ein großes Problem. Die vorübergehende Entfernung dieser Übersichten durch Google deutet auf einen vorsichtigen Ansatz hin, doch weitere Verfeinerungen und strenge Tests sind unerlässlich, bevor solche Funktionen zuverlässig in die Mainstream-Suchergebnisse integriert werden können.
Der Vorfall unterstreicht, dass KI zwar leistungsstark, aber noch nicht unfehlbar ist, insbesondere in Bereichen, in denen es bei Genauigkeit um Leben und Tod geht.
