AI-chatbot geeft hackers toegang tot Instagram-accounts, door dat gewoon te vragen

Afgelopen maart lanceerde Meta een nieuwe AI-assistent, die Facebook- en Instagram-gebruikers moest helpen bij accountproblemen en beschermen tegen nepaccounts. Dat ging goed mis, zo blijkt nu, aangezien hackers de chatbot moeiteloos konden misleiden.

Daarmee kregen ze toegang tot prominente Instagram-profielen, zo schrijft 404 Media. De manier waarop dit gebeurde, is schrikbare simpel. Via een vpn konden ze de geografische locatie van accounteigenaars nabootsen, waarmee ze de chatbot konden overtuigen het gekoppelde e-mailadres te wijzigen. Zodoende konden ze tweestapsverificatie omzeilen.

Dit lek bestond al maanden, waardoor hackers lang hun gang konden gaan en de accounts konden doorverkopen voor een paar dollar per stuk. Zelfs voormalig Meta-onderzoeker Jane Wong ontdekte tot haar schrik dat haar wachtwoord zomaar was veranderd. “Het lijkt erop dat mijn wachtwoord veranderd is zonder mijn wetenschap. Ik kan niet meer inloggen.”

Blootgelegde pijnpunten

Dit incident legt de pijnpunten van AI-chatbots in klantenservice heel goed bloot. We zien vaker dat taalmodellen gemanipuleerd worden om beleid te verzinnen of regels te negeren. Deskundigen waarschuwen dan ook voor privacyschendingen bij AI. Dit is extra zorgwekkend, omdat Meta berucht is om zijn slordige omgang met gebruikersdata.

Eind maart veroorzaakte een interne AI-assistent nog een groot datalek bij het Facebook-moederbedrijf. Meta heeft het lek inmiddels gedicht; de vraag is nu hoe groot de schade is.