AI-trainers bij Microsoft moeten constant naar seksuele beelden kijken

Microsoft-medewerkers die prompts van Copilot controleren en beoordelen worden gedwongen dagelijks naar seksueel materiaal te kijken. Denk dan aan afbeeldingen waarin gebruikers onder de rok van een vrouw kijken en vrouwen graag in ongepaste posities plaatsen.

Wanneer je een prompt intypt in het chatvenster van een AI-chatbot, dan denk je misschien dat de communicatie tussen jullie privé is. Maar niets is minder waar – ook niet bij Microsoft Copilot. Achter de schermen beoordelen honderden medewerkers in opdracht van Microsoft jouw prompts, waaronder de opdrachten die gerelateerd zijn aan foto’s.

Uit gelekte documenten, die in handen zijn van 404 Media, blijkt nu dat die mensen dagelijks geconfronteerd worden met expliciete en ongepaste foto’s. Denk dan aan een opdracht waarbij iemand de kleding van vrouwen korter maakt of bepaalde lichaamsdelen groter. Ook is onder het rokje kijken heel populair. Daarnaast willen ze met sommige beelden ook anorexia promoten.

Ongevraagd en illegaal

Het wrange aan deze situatie is dat de medewerkers niet ingehuurd zijn om de content te blokkeren of de AI-dienst veiliger te maken. In plaats daarvan moeten ze alleen checken of de AI, in dit geval Microsoft Copilot, zijn werk goed gedaan heeft. Ze moeten de originele foto en de prompt bekijken en vervolgens beoordelen welke AI-bewerking het beste is gelukt. Dat doen ze puur op intuïtie, want hier lijken geen richtlijnen voor te zijn.

Die medewerkers krijgen daardoor ongevraagd expliciete en soms zelfs illegale content voorgeschoteld. Op interne forums uiten deze werknemers hun frustratie over de hoeveelheid seksueel getinte taken die ze zonder waarschuwing te zien krijgen. Microsoft stelt in een reactie dat het klantgegevens gebruikt in overeenstemming met zijn algemene voorwaarden om zijn producten te verbeteren.