Groeiende ophef in VS om creepy AI-camera's: waarom, en zou dat hier ook kunnen?

In de Verenigde Staten hangen inmiddels zo'n 120.000 tot 130.000 Flock-camera's aan een lantaarnpaal. Verkocht als onschuldige kentekencamera voor de lokale politie, maar inmiddels een landelijk doorzoekbaar surveillance-netwerk. Zorgelijk – zou dat hier ook kunnen gebeuren?

Flock begon als kentekencamera: een foto van je auto, met kenteken, kleur en opvallende kenmerken zoals een dakkoffer of bumpersticker. Onschuldig genoeg, zou je zeggen. Maar wie weleens op Instagram of TikTok kijkt, heeft waarschijnlijk al filmpjes gezien waarop Flock-camera's afgedekt worden, of zelfs vernield, door burgers die zich aangetast voelen in hun privacy en grondrechten. En dit is pas het begin: de AI van het bedrijf is inmiddels een stuk verder.

Onderzoeksjournalisten van Wired wisten de broncode te bemachtigendie Flock naar de browser van agenten stuurt, en die code laat zien hoe ver de zoekfunctie inmiddels reikt. Met een tool genaamd FreeForm kan een agent gewoon een omschrijving intypen – "persoon in ziekenhuiskleding" is het voorbeeld dat Flock zelf noemt – en de software doorzoekt daarmee alle camerabeelden op mensen die aan die beschrijving voldoen. Er is zelfs een continue "watch list" mogelijk: teken een gebied op de kaart, typ een omschrijving in, en elke camera in dat vak stuurt automatisch een melding zodra iemand voldoet aan het profiel.

Flock bouwde daar wel een moderatiesysteem omheen, dat zoekopdrachten op basis van ras, religie of nationaliteit zou moeten blokkeren. Maar categorieën als "politieke, sociale en culturele expressie" – denk aan wie er een demonstratie bijwoonde – krijgen slechts een waarschuwing, geen blokkade. Een agent klikt gewoon door. En zo is dan de groep te volgen die juist het de sterkste grondwettelijke bescherming zou moeten krijgen, volgens juristen van het Amerikaanse Center for Democracy and Technology.

Een netwerk dat protest oproept

Nogal wiedes dat er steeds meer weerstand en protesten zijn. Het netwerk groeide de afgelopen jaren in rap tempo, van nog geen 1000 camera's in 2024 tot zo'n 130.000 nu, verspreid over de hele VS. Steeds vaker worden ze doorgezaagd, kapotgeschoten of met verf onherkenbaar gemaakt – vandalisme dat inmiddels in tientallen Amerikaanse steden wordt gemeld.

Dat protest komt niet uit het niets. Er zijn zaken bekend waarin burgers thuis worden opgepakt omdat Flock-beelden een vermeende diefstal "klip en klaar" zouden bewijzen, terwijl ze pas in de rechtbank de kans krijgen om zich te verdedigen. Tegen die tijd is het bewijs allang eenzijdig opgebouwd.

Niet alleen de politie maakt gebruik van dat netwerk. Ook verzekeraars kopen toegang, vooral om claims onderuit te kunnen halen. Jij als burger hebt geen toegang tot diezelfde databank om je eigen zaak te onderbouwen – de asymmetrie zit ingebakken in het systeem.

Wie betaalt dit eigenlijk?

Nog wranger wordt het als je kijkt naar de financiering. Progressief tijdschrift The American Prospect bracht onlangs naar buiten dat een deel van de Flock-uitrol wordt betaald met geld dat voor heel iets anders bedoeld was. Onderzoek van Mother Jones vond negentien politiekorpsen in tien staten die geld uit de landelijke opioïdenschikking – bedoeld voor verslavingszorg – gebruikten om Flock-camera's aan te schaffen. In Texas ging het nog verder: van een verzekeringsheffing van 1 dollar extra die burgers betalen om diefstal van katalysators tegen te gaan, vloeide 30 miljoen dollar naar Flock-camera's langs snelwegen. Goed voor 3.200 camera's, gefinancierd met geld dat nooit voor surveillance bedoeld was. Pas na aanhoudende druk kondigde de Texaanse gouverneur aan alle staatsfinanciering voor Flock stil te leggen.