Amazon a temporairement supprimé de Prime Video ses récapitulatifs vidéo générés par l’IA après que les utilisateurs ont identifié des erreurs factuelles lors du déploiement de la fonctionnalité. Les récapitulatifs, qui ont débuté le mois dernier pour certaines émissions, notamment Fallout, Jack Ryan et Upload, ont utilisé l’intelligence artificielle pour résumer les points clés de l’intrigue pour les téléspectateurs. Cependant, le système a rapidement fait l’objet de critiques lorsque des inexactitudes sont apparues dans le récapitulatif de Fallout, ce qui a incité l’entreprise à réagir rapidement.
Fonctionnement de la fonctionnalité
Les récapitulatifs basés sur l’IA combinaient des clips vidéo, de l’audio, des dialogues et une voix off synthétique pour fournir des résumés de saison condensés. Amazon a affirmé que l’outil avait été conçu pour « comprendre en profondeur » et mettre en évidence les « moments cruciaux » pour le réengagement avec les séries.
The Fallout : erreurs et suppression
Les fans de plateformes comme Reddit et X (anciennement Twitter) ont rapidement signalé des erreurs. Un utilisateur a signalé que le récapitulatif de Fallout avait mal placé les scènes de flashback de 1950 au lieu du réglage correct de 2077. Un autre a noté une mauvaise interprétation du dialogue, qualifiant un choix crucial de violent alors que la scène ne l’impliquait pas. Suite à ces rapports, l’option récapitulative a disparu de l’application Prime Video pour de nombreux utilisateurs. Au moment d’écrire ces lignes, l’option demeure dans certaines versions de l’application, mais n’est pas fonctionnelle.
Pourquoi c’est important
Cette suppression rapide met en évidence les défis liés au déploiement de l’IA générative dans la synthèse de contenu. Même si l’IA a le potentiel d’améliorer l’expérience du téléspectateur, les limites actuelles en matière de précision et de compréhension contextuelle présentent des risques importants pour la crédibilité. Cet incident souligne la nécessité d’une vérification rigoureuse des erreurs avant de mettre à l’échelle de telles fonctionnalités, car la désinformation peut éroder la confiance dans les plateformes de streaming.
Amazon n’a pas encore publié de déclaration officielle concernant la suppression ou les projets futurs de l’outil de récapitulation de l’IA. Pour l’instant, l’expérience est suspendue, démontrant que même les géants de la technologie doivent s’intéresser à l’intégrité factuelle avant d’adopter pleinement des solutions de contenu basées sur l’IA.
