Amazon eliminó temporalmente sus resúmenes de videos generados por IA de Prime Video después de que los usuarios identificaron errores factuales en el lanzamiento de la función. Los resúmenes, que debutaron el mes pasado para programas selectos como Fallout, Jack Ryan y Upload, utilizaron inteligencia artificial para resumir los puntos clave de la trama para los espectadores. Sin embargo, el sistema rápidamente enfrentó críticas cuando surgieron imprecisiones en el resumen de Fallout, lo que provocó una rápida respuesta de la empresa.
Cómo funcionó la función
Los resúmenes impulsados por IA combinaron videoclips, audio, diálogos y una voz en off sintética para proporcionar resúmenes condensados de la temporada. Amazon afirmó que la herramienta fue diseñada para “comprender profundamente” y resaltar “momentos cruciales” para volver a interactuar con las series.
The Fallout: errores y eliminación
Los fanáticos de plataformas como Reddit y X (anteriormente Twitter) rápidamente señalaron los errores. Un usuario informó que el resumen de Fallout colocó escenas de flashback incorrectamente en 1950 en lugar de la configuración correcta de 2077. Otro notó una caracterización errónea del diálogo, enmarcando una elección fundamental como violenta cuando la escena no lo implicaba. Después de estos informes, la opción de resumen desapareció de la aplicación Prime Video para muchos usuarios. Al momento de escribir este artículo, la opción permanece en algunas versiones de la aplicación, pero no es funcional.
Por qué esto es importante
La rápida eliminación resalta los desafíos de implementar IA generativa en el resumen de contenido. Si bien la IA tiene el potencial de mejorar la experiencia del espectador, las limitaciones actuales en cuanto a precisión y comprensión contextual plantean riesgos importantes para la credibilidad. Este incidente subraya la necesidad de realizar una verificación sólida de errores antes de ampliar dichas funciones, ya que la información errónea puede erosionar la confianza en las plataformas de transmisión.
Amazon aún no ha emitido una declaración oficial sobre la eliminación o los planes futuros para la herramienta de resumen de IA. Por ahora, el experimento está en suspenso, lo que demuestra que incluso los gigantes tecnológicos deben abordar la integridad fáctica antes de adoptar plenamente las soluciones de contenido impulsadas por la IA.
