Chinese gebruiker ChatGPT opgepakt om nepnieuws over treinongeluk
De Chinese autoriteiten hebben een man opgepakt die de chatbot ChatGPT nepnieuws over een dodelijk treinongeluk had laten verzinnen en dat via sociale media had verspreid. Het is een van de eerste arrestaties vanwege misbruik van kunstmatige intelligentie (AI) in China.
De man, met de achternaam Hong, gebruikte de bekende AI-chatbot om 'valse informatie te fabriceren en te verspreiden via sociale media', meldde de politie in de noordelijke provincie Gansu.
De man publiceerde volgens de politie een nepartikel over een treinongeluk waarbij negen mensen om het leven zouden zijn gekomen. Het artikel werd meer dan 15.000 keer bekeken voordat het werd verwijderd.
Geld verdienen
Nader onderzoek wees uit dat Hong voor het maken van het nepartikel ChatGPT had gebruikt, hoewel die online-tool officieel niet beschikbaar is in China. Via VPN-diensten kunnen Chinezen toch toegang tot ChatGPT krijgen. De man verklaarde tegen de politie dat vrienden op de chatdienst WeChat hem hadden laten zien hoe hij geld kon verdienen met nepnieuws.
Het is de eerste arrestatie onder nieuwe regelgeving over het gebruik van kunstmatige intelligentie die China eerder dit jaar invoerde.
Mogelijk jarenlang de cel in
De Chinese autoriteiten willen Hong het misdrijf van 'ruzies zoeken en problemen veroorzaken' ten laste leggen. Daarvoor geldt in China een celstraf van minstens vijf jaar.
De populariteit van ChatGPT, dat wordt gemaakt door het Amerikaanse OpenAI, heeft in China geleid tot een hausse aan soortgelijke AI-chatbots van grote techbedrijven, zoals Baidu en Alibaba. De Chinese autoriteiten willen de chatbots strenge regels opleggen, vergelijkbaar met de regels die al jaren gelden voor internet in het land.
Grote zorgen
Een van de grote zorgen over de snelle opkomst van AI gaat over het gemak waarmee razendsnel enorme hoeveelheden nepnieuws en propaganda zijn te verspreiden. Kunstmatige intelligentie kan teksten produceren die door mensen geschreven lijken te zijn. Ook genereert de technologie steeds geloofwaardigere foto's, video's en geluidsfragmenten.
Een van de grondleggers van belangrijke AI-technieken waarschuwde vorige week voor de gevaren van AI. Ook stuurden ruim duizend experts een brandbrief, waarin ze opriepen de ontwikkeling van AI te pauzeren, zodat er goede wetgeving voor kan worden aangenomen. Die oproep is inmiddels door bijna 28.000 mensen wereldwijd ondertekend.
Onder meer de EU en de VS werken intussen aan strengere regelgeving rond AI.
Luister ook de Bright Podcast:
Zo snel ontwikkelt AI zich: