Amazon trekt AI-functie van Prime nu al terug na pijnlijk misser in Fallout

Bij het gebruik van AI is er één hele belangrijke regel: controleer altijd goed wat eruit komt. Bij Amazon Prime waren ze daar blijkbaar nog niet helemaal van op de hoogte. Hun nieuwe AI-recapfunctie is namelijk behoorlijk de fout ingegaan met de samenvatting van Fallout. Uit voorzorg heeft Amazon deze nieuwe functie dan ook weer offline gehaald.

Recaps van series zijn ongekend populair. Iedere kijker wil tenslotte aan het begin van een nieuw seizoen weer even een opfrisser van wat er eerder is gebeurd. Voorheen was je daarvoor aangewezen op het werk van fans op YouTube, maar inmiddels proberen streamingdiensten dit ook zelf te doen.

Amazon is daarop geen uitzondering, maar besloot als een van de weinigen dit klusje door AI te laten opknappen. Dat riep direct twijfels op bij fans, en die blijken nu ook terecht. In de AI-recap van Fallout zijn namelijk een aantal flinke fouten geslopen.

Prime gaat pijnlijk in de fout met AI-recap van Fallout

Zo worden in de video meerdere belangrijke gebeurtenissen in het verkeerde tijdperk geplaatst en worden verhaallijnen verkeerd uitgelegd. Er wordt bijvoorbeeld beweerd dat delen van de serie zich afspelen in het Amerika van de jaren 50, terwijl Fallout zich juist afspeelt in een post-apocalyptische toekomst waarin die jaren-50-esthetiek een bewuste stijlkeuze is.

Je kan dus beter deze kijken:

Ook de motivatie van sommige personages werd verkeerd samengevat. Keuzes die in de serie complex en gelaagd zijn, werden door de AI flink platgeslagen. Dat levert niet alleen verkeerde informatie op, maar doet ook afbreuk aan het verhaal.

Amazon trekt (voorlopig) de stekker uit AI-samenvattingen

De AI-samenvatting is dus niet alleen onjuist, maar mist volgens fans ook veel nuance en gevoel. De term AI-slop wordt in reacties op de video veelvuldig gebruikt. Daarmee doelen ze op automatisch gegenereerde content zonder begrip van context of verhaal. En juist bij een serie die leunt op wereldbouw, details en lore is dat extra pijnlijk.

Deze reacties zijn blijkbaar ook Amazon niet ontgaan. Het bedrijf heeft alle AI-recaps offline gehaald. Dus niet alleen die van Fallout, maar ook van andere series zoals The Rig, Tom Clancy’s Jack Ryan, Upload en Bosch. Dat doet Amazon overigens in alle stilte, want het bedrijf heeft op het moment van schrijven nog geen uitleg gegeven over deze beslissing.

We weten dus ook niet of de AI-samenvattingen later weer zullen terugkeren op Prime. Mocht dat wel het geval zijn, dan zal Amazon ze ongetwijfeld beter controleren voordat ze opnieuw online gaan.

Lees meer over AI en word lid van de Bright-nieuwsbrief.