©Unsplash

Als je AI-chatbot stopt, dan kan alles wat je zei wel eens openbaar worden
Character.ai is een populaire AI-tool waarmee veel mensen zichzelf een digitale geliefde hebben aangemeten. Lief en leed is er gedeeld, soms zelfs lust, maar nu gaat het bedrijf erachter failliet. En wat er met die data gebeurt is confronterend: dat wordt niet beschermd, dat wordt verkocht. En daarmee misschien wel openbaar.
Veel mensen denken dat we nu in een AI-bubbel zitten en dat het zo duur is om het allemaal draaiend te houden, dat veel AI-bedrijven moeten stoppen te bestaan. Waar dan echter geen rekening mee wordt gehouden is wat er dan gebeurt met de data die al die bedrijven over mensen bevatten. Als de bubbel barst, dan kan dat wel eens voor heel ongemakkelijke situaties gaan zorgen. De data van miljarden mensen zou dan gewoon kunnen worden opgekocht door een bedrijf, dat kan doen met de data wat het zelf wil.
Gevoelige informatie
De directeur van het AI and Human Rights Program bij het Electronic Privacy Information Center zegt tegen de BBC dat mensen in al die jaren dat ze met een AI-chatbot spreken vaak ook veel gevoelige informatie delen. En misschien is het niet eens informatie die je zelf met AI hebt gedeeld: vrienden en familie kunnen ook over je praten met AI-chatbots en op die manier toch informatie over je prijsgeven.
Character.ai zal nu een deel van zijn assets aan Disney verkopen voor een bedrag van bijna 18 miljoen euro, maar hier maakt gebruikersdata geen deel van. Wel kan Character.ai die informatie nog doorverkopen aan een andere partij. Er wordt wel gekeken of daar juridisch gezien iets tegen kan worden gedaan, maar de kans is aanwezig dat dat niet mogelijk is en dat al die persoonlijke verhalen straks op straat komen te liggen.
Failliet AI-bedrijf
Als je met een AI-bedrijf in zee gaat (en dus bijvoorbeeld zijn AI-chatbot gebruikt), dan verwacht je dat je een bepaalde bescherming hebt, maar die gaat dus uit de deur wanneer een bedrijf failliet gaat. Ook in de EU, waar er vaak wat strenger wordt omgegaan met data van burgers. In principe behoort de koper wel de regels van het originele beleid aan te houden. Maar dat beleid is soms wel wat vaag. Dat van Character.ai is bijvoorbeeld dat gebruikersgegevens kunnen worden benut om nieuwe functies te bouwen, AI-modellen te trainen, algoritmes te ontwikkelen en gebruikersprofielen op te stellen voor gerichte advertenties. Zo’n ‘nieuwe functie’ kan natuurlijk van alles zijn.
Er zullen snel kapers op de kust zijn van die data, en dat geldt niet alleen voor Character.ai: ook als andere AI-bedrijven op den duur omvallen, wordt er waarschijnlijk vol belangstelling gekeken of de gebruikersdata kan worden gekocht: dat is goud waard. Het is dan ook de moeite waard om je data binnen AI-chatbots regelmatig te laten wissen. Weet je niet hoe dat moet? Dan kun je het natuurlijk altijd nog de AI-chatbot zelf vragen, zolang die nog niet failliet is.
















