Apple test AI-functie in eigen winkels waar iedereen onrustig van wordt

Apple test momenteel de nieuwe AI-functie Live Notes in een select aantal van zijn winkels. Dit systeem neemt reparatiegesprekken aan de Genius Bar op, transcribeert ze en maakt vervolgens automatisch een samenvatting voor in het klantdossier.

Apple presenteert het als een tijdbesparende tool die je alleen op vrijwillige basis hoeft gebruiken – dat geldt voor zowel de klant als de medewerker. Bovendien hebben managers geen toegang tot die data en wordt de originele audio nergens bewaard. Toch zorgt dit systeem nu voor flink wat onrust bij Apple-medewerkers, want wat als Apple hier meer mee doen?

Ongewenste controle

De werknemers vrezen nu dat Apple de technologie uiteindelijk gaat gebruiken voor prestatie-evaluaties en surveillance. Dat wantrouwen komt niet helemaal uit de lucht vallen, aangezien bedrijven steeds vaker leunen op AI-monitoring om de werkvloer in de gaten te houden. Onder meer JPMorgan werkt met dit soort Orwelliaanse gereedschappen.

Daarnaast worstelde Apple al eerder met dit soort dingen, toen in 2019 bleek dat medewerkers konden meeluisteren naar Siri-opnames. Ondanks het feit dat Apple privacy vaak een fundamenteel recht noemt, laat de test voor veel werknemers zien hoe dun de scheidslijn geworden is tussen een slimme AI-assistent en ongewenste controle op de werkvloer.