China zet in op een ban voor AI-metgezellen voor mensen onder de 18

China is voornemens een ban in te stellen voor het gebruik van AI-metgezellen voor mensen onder de achttien jaar. Dit voorstel zou nog wel eens een precedent kunnen scheppen voor regeringen die worstelen met regelgeving rondom AI-relaties.

Het idee komt van China’s internetwaakhond, de Cyberspace Administratie. Ook wil die een verbod op diensten die de gezondheid bedreigen, verslaving in de hand werken of praten met vreemden mogelijk maakt. Voor die laatste bestaat een uitzondering: mensen van zestien jaar of ouder die een eigen inkomen hebben mogen dat wel doen.

Games, sociale platformen en AI-diensten die de cognitieve functies van gebruikers onder de zestien jaar negatief beïnvloeden, niet in staat zijn jongeren te herkennen of gebruikers motiveren meer tijd, energie en geld te spenderen, kunnen een boete ontvangen. Die kan oplopen tot tien keer het inkomen van zo’n platformen – en als het bedrag voorbij de 1 miljoen yuan komt, dan zouden de autoriteiten daar beslag op mogen leggen.

Afhankelijkheid

Het zou voornamelijk moeten gaan om chatbots die familie en partnerrelaties simuleren. Andere bots, waarmee je functioneel chat of zelfs een rollenspel mee opzet, vallen buiten de regels. Pas wanneer gebruikers er afhankelijk van worden, kan de autoriteit ingrijpen.

China heeft eerder al regels opgesteld voor AI’s die zich heel menselijk zouden kunnen gedragen. Het gaat dan om systemen die zorgen voor een bepaalde emotionele afhankelijkheid, waardoor relaties in de echte wereld schade op kunnen lopen. De overheid wil daar kunnen ingrijpen. Mochten dit soort regels en richtlijnen succesvol blijken, dan kunnen andere overheden kijken naar het Chinese model en daar de dingen van overnemen die werken en hier passen.