Meta-medewerker krijgt toegang tot gebruikersdata door fout van AI

Verschillende Meta-medewerkers hadden twee uur lang toegang tot bedrijfsdata en gebruikersdata door een AI-agent die buiten zijn boekje ging. Eén medewerker kreeg verkeerd advies op basis van een technische vraag en kreeg daardoor toegang tot zaken waar hij of zij niet toe gemachtigd was.

Volgens Meta is er tijdens dit euvel geen gebruikersdata verkeerd gebruikt. De AI-agent is voor intern gebruik bedoeld en die analyseert de technische vragen die mensen op een intern forum posten. Zonder dat de bot hiervoor toegang had, antwoordde hij in het openbaar. Nu was dat al foute boel, maar toen gingen medewerkers ermee aan de haal die hiertoe geen toegang zouden moeten hebben. Het advies werd gevolgd en zo ontstond er een beveiligingsincident waarbij zowel gevoelige bedrijfsdata als -gebruikersdata betrokken waren.

AI bij Meta

De AI heeft er zelf niets mee gedaan. Die heeft alleen verkeerd advies gegeven en dat had een mens ook kunnen gebeuren. Een mens had er echter misschien nog even over nagedacht of dit wel goed was om te zeggen, en vooral: of dat wel de juiste plek was om het te zeggen. AI heeft niet van dat soort realisaties en zal dat dus minder snel hebben. 

Meta zegt tegen The Verge: "De werknemer die met het systeem communiceerde, was zich er volledig van bewust dat zij met een geautomatiseerde bot spraken. Dit bleek uit een disclaimer in de voettekst en uit het eigen antwoord van de werknemer in die thread. De agent ondernam geen enkele actie, behalve het beantwoorden van een vraag. Als de technicus die hierop reageerde beter had opgelet, of andere controles had uitgevoerd, had dit voorkomen kunnen worden."

OpenClaw

Meta-medewerkers gebruiken soms OpenClaw om bepaalde activiteiten te automatiseren. Inmiddels zou het verboden zijn bij Meta, maar vorige maand was er nog een AI-agent van OpenClaw over de schreef binnen de muren van Meta, omdat nota bene een AI-topvrouw vroeg of OpenClaw door haar mail kon gaan om het beter te organiseren, waarna de agent allerlei mails begon te verwijderen. Die zelfstandige acties van AI zijn dus niet altijd in ons voordeel: er moet goed over de prompt worden nagedacht.

Meta, dat juist heel veel investeert in AI, is nu al twee keer in een maand tijd door kunstmatige intelligentie in verlegenheid gebracht.