Amazon tymczasowo usunął z Prime Video podsumowania wideo generowane przez sztuczną inteligencję po tym, jak użytkownicy odkryli błędy merytoryczne w tej funkcji. Podsumowania, które zadebiutowały w zeszłym miesiącu dla wybranych seriali, w tym Fallout, Jack Ryan i Upload, wykorzystywały sztuczną inteligencję do podsumowywania kluczowych punktów fabuły dla widzów. Jednak system szybko spotkał się z krytyką, gdy w podsumowaniu Fallouta pojawiły się nieścisłości, co spowodowało szybką reakcję firmy.
Jak działała ta funkcja
Sztuczna inteligencja podsumowuje połączone klipy wideo, dźwięk, dialogi i syntetyzowany głos, aby zapewnić skondensowany przegląd pór roku. Amazon argumentował, że narzędzie zostało zaprojektowane w celu zapewnienia „głębokiego wglądu” i podkreślenia „kluczowych momentów”, aby ponownie zaangażować widzów w serial.
Konsekwencje: błędy i usunięcie
Fani na platformach takich jak Reddit i X (dawniej Twitter) szybko zwrócili uwagę na błędy. Jeden z użytkowników zgłosił, że w podsumowaniu Fallouta błędnie umieszczono sceny retrospekcji z roku 1950 zamiast prawidłowego ustawienia z roku 2077. Inny zauważył błędną interpretację dialogu, przedstawiając główny wybór jako brutalny, gdy scena tego nie sugerowała. W następstwie tych doniesień dla wielu użytkowników opcja podsumowania zniknęła z aplikacji Prime Video. W chwili pisania tego artykułu opcja pozostaje w niektórych wersjach aplikacji, ale nie działa.
Dlaczego to jest ważne
Szybkie usunięcie podkreśla wyzwania związane z wdrażaniem generatywnej sztucznej inteligencji w podsumowywaniu treści. Chociaż sztuczna inteligencja może poprawić komfort użytkownika, obecne ograniczenia w dokładności i zrozumieniu kontekstu stwarzają poważne ryzyko dla zaufania. Incydent uwydatnia potrzebę dokładnego sprawdzania błędów przed skalowaniem takich funkcji, ponieważ dezinformacja może podważyć zaufanie do platform streamingowych.
Amazon nie wydał jeszcze oficjalnego ogłoszenia na temat usunięcia lub przyszłych planów narzędzia podsumowującego sztuczną inteligencję. Eksperyment został na razie wstrzymany, co pokazuje, że nawet giganci technologiczni muszą wziąć pod uwagę rzetelność faktów przed pełnym wdrożeniem rozwiązań w zakresie treści AI.
