Google zakázal experimentální kontroly umělé inteligence pro určité lékařské dotazy poté, co systém generoval zprávy o zjevně nesprávných a nebezpečných radách. Rozhodnutí následuje po zprávě v The Guardian, která dokumentovala případy umělé inteligence poskytující zavádějící lékařské informace, včetně potenciálně smrtelných rad pacientům s rakovinou.
Falešná lékařská rada způsobuje okamžitou negativní reakci
Nejznepokojivějším příkladem uvedeným ve vyšetřování The Guardian bylo, že AI nesprávně radila lidem s rakovinou slinivky, aby se vyhýbali potravinám s vysokým obsahem tuku, což je v rozporu s obecně přijímanými lékařskými radami a mohlo by to urychlit progresi onemocnění. AI bylo také hlášeno, že poskytuje nepřesné údaje o životně důležitých jaterních testech, což vede k potenciální chybné diagnóze u lidí se závažným onemocněním jater.
Tyto chyby rychle vyvolaly kritiku lékařských odborníků, kteří si všimli skutečných důsledků takových dezinformací. AI nebyla jen poněkud nepřesná ; dával rady, které mohly pacientům přímo ublížit.
Reakce společnosti Google a přetrvávající problémy
Google odmítl konkrétně komentovat deaktivaci AI recenzí pro lékařské dotazy. Mluvčí společnosti Davis Thompson však tuto funkci hájil s tím, že „drtivá většina poskytuje přesné informace“ a že nepřesnosti často potvrzují existující online zdroje. Společnost uvedla, že pracuje na rozsáhlých vylepšeních a v případě potřeby prosazuje své zásady.
Toto není ojedinělý případ. Recenze AI od Googlu již dříve generovaly podivné a nebezpečné návrhy, včetně doporučení lepidla jako polevy na pizzu a doporučení, aby lidé jedli kameny. Tato funkce byla také předmětem soudních sporů, zdůrazňujících rizika nasazení neověřeného obsahu generovaného umělou inteligencí pro veřejnost.
Budoucnost vyhledávání AI
Incident vyvolává kritické otázky ohledně připravenosti vyhledávání AI zvládnout citlivá témata, jako je zdravotní péče. I když umělá inteligence může zlepšit přístup k informacím, hlavním problémem zůstává riziko generování nepravdivých nebo zavádějících rad. Dočasné zakázání těchto recenzí ze strany společnosti Google naznačuje opatrný přístup, ale než bude možné tyto funkce spolehlivě integrovat do hlavních výsledků vyhledávání, je zapotřebí další vylepšení a rozsáhlé testování.
Tento incident zdůrazňuje, že AI, i když je výkonná, ještě není bezchybná, zejména v oblastech, kde je přesnost rozhodující pro život a smrt.
