Amazon dočasně odstranil souhrny videí generované umělou inteligencí z Prime Video poté, co uživatelé objevili faktické chyby v této funkci. Souhrny, které debutovaly minulý měsíc pro vybrané pořady včetně Fallout, Jack Ryan a Upload, využívaly umělou inteligenci ke shrnutí klíčových bodů zápletky pro diváky. Systém však rychle čelil kritice, když se v souhrnu Fallout objevily nepřesnosti, což vyvolalo rychlou reakci společnosti.
Jak funkce fungovala
Umělá inteligence rekapituluje kombinované videoklipy, zvuk, dialogy a syntetizovaný hlasový záznam, aby poskytla zhuštěné přehledy ročních období. Amazon argumentoval, že tento nástroj byl navržen tak, aby poskytoval „hluboké vhledy“ a zvýraznil „klíčové momenty“, aby znovu zaujal diváky seriálem.
Důsledky: Chyby a mazání
Fanoušci na platformách jako Reddit a X (dříve Twitter) na chyby rychle upozornili. Jeden uživatel uvedl, že souhrn Fallout nesprávně umístil flashbackové scény v roce 1950 namísto správného nastavení 2077. Další si všiml nesprávného výkladu dialogu, který představoval hlavní volbu jako násilnou, když to scéna nenaznačovala. Po těchto zprávách zmizela možnost souhrnu z aplikace Prime Video pro mnoho uživatelů. V době psaní tohoto článku tato možnost zůstává v některých verzích aplikace, ale nefunguje.
Proč je to důležité
Rychlé mazání zdůrazňuje výzvy implementace generativní umělé inteligence do sumarizace obsahu. I když má umělá inteligence potenciál zlepšit uživatelskou zkušenost, současná omezení přesnosti a porozumění kontextu představují značné riziko pro důvěru. Incident zdůrazňuje potřebu robustní kontroly chyb před škálováním takových funkcí, protože dezinformace mohou podkopat důvěru ve streamovací platformy.
Amazon ještě nevydal oficiální oznámení o odstranění nebo budoucích plánech pro souhrnný nástroj AI. Experiment je prozatím pozastaven, což ukazuje, že i techničtí giganti musí zvážit faktickou integritu před plnou implementací řešení obsahu AI.
