Meerdere storingen bij Amazon veroorzaakt door AI

Bij de clouddienst van Amazon zijn meerdere storingen veroorzaakt door AI, waaronder eentje van dertien uur.

Toen een systeem van Amazon Web Services (AWS) in december dertien uur plat lag, kwam dat door een beslissing die AI had gemaakt. De AI-agent Kiro van Amazon kreeg toestemming om zelfstandig wijzigingen te maken. De AI besloot dat de beste actie was om de hele productie-omgeving te verwijderen.

Tegenover de Financial Times vertellen medewerkers van Amazon dat dit niet de eerste keer is dat de AI het middelpunt van een storing bleek. "We hebben de afgelopen maanden al minstens twee productiestoringen gezien waarbij de engineers de AI een probleem lieten oplossen zonder in te grijpen."

In een reactie stelt Amazon dat het toevallig was dat AI-tools betrokken waren bij deze problemen en dat hetzelfde zou gebeuren met andere tools of menselijk handelen: "In beide gevallen ging het om een gebruikersfout, niet om een AI-fout." Bij het probleem in december zou Kiro door mensen te veel rechten hebben gekregen.