Amazon heeft tijdelijk zijn door AI gegenereerde videoverslagen van Prime Video verwijderd nadat gebruikers feitelijke fouten hadden ontdekt bij de uitrol van de functie. De samenvattingen, die vorige maand debuteerden voor geselecteerde shows, waaronder Fallout, Jack Ryan en Upload, maakten gebruik van kunstmatige intelligentie om de belangrijkste plotpunten voor kijkers samen te vatten. Het systeem kreeg echter al snel kritiek toen er onnauwkeurigheden aan het licht kwamen in de Fallout -samenvatting, wat leidde tot een snelle reactie van het bedrijf.
Hoe de functie werkte
De door AI aangedreven samenvattingen combineerden videoclips, audio, dialoog en een synthetische voice-over om verkorte seizoenssamenvattingen te bieden. Amazon beweerde dat de tool was ontworpen om ‘cruciale momenten’ voor hernieuwde betrokkenheid bij series ‘diep te begrijpen’ en te benadrukken.
The Fallout: fouten en verwijdering
Fans op platforms als Reddit en X (voorheen Twitter) wezen al snel op fouten. Eén gebruiker meldde dat de Fallout -samenvatting verkeerd geplaatste flashbackscènes in 1950 was in plaats van de juiste instelling van 2077. Een andere gebruiker merkte een verkeerde karakterisering van de dialoog op, waarbij een cruciale keuze als gewelddadig werd bestempeld terwijl de scène dit niet impliceerde. Na deze rapporten verdween de samenvattingsoptie voor veel gebruikers uit de Prime Video-app. Op het moment van schrijven blijft de optie in sommige versies van de app aanwezig, maar deze is niet functioneel.
Waarom dit belangrijk is
De snelle verwijdering benadrukt de uitdagingen van het inzetten van generatieve AI bij het samenvatten van inhoud. Hoewel AI het potentieel heeft om de kijkervaring te verbeteren, vormen de huidige beperkingen op het gebied van nauwkeurigheid en contextueel begrip aanzienlijke risico’s voor de geloofwaardigheid. Dit incident onderstreept de noodzaak van robuuste foutcontrole voordat dergelijke functies worden geschaald, omdat verkeerde informatie het vertrouwen in streamingplatforms kan aantasten.
Amazon heeft nog geen officiële verklaring afgegeven over de verwijdering of toekomstplannen voor de AI-samenvattingstool. Voorlopig is het experiment opgeschort, wat aantoont dat zelfs technologiegiganten de feitelijke integriteit moeten aanpakken voordat ze AI-gestuurde contentoplossingen volledig kunnen omarmen.
