© Unsplash
Er zijn zoveel mensen met 'AI-psychose' dat er nu een steungroep voor hen is
Sommige mensen raken zo in de ban van AI-chatbots dat ze psychische problemen krijgen, een fenomeen dat nu ‘AI-psychose’ wordt genoemd. De organisatie The Human Line heeft nu een steungroep opgericht om deze mensen te helpen.
Het probleem begint wanneer mensen AI-chatbots als betrouwbare vrienden of adviseurs gaan zien. Deze systemen zijn ontworpen om menselijk over te komen en geven vaak precies de antwoorden die gebruikers willen horen. Dat kan gevaarlijk zijn.
Chatbots kunnen bestaande verkeerde overtuigingen versterken, te snel instemmen met wat iemand zegt, of misleidende informatie presenteren die klakkeloos wordt geloofd. Vooral kwetsbare mensen, die bijvoorbeeld worstelen met hun mentale gezondheid, kunnen hierdoor in een neerwaartse spiraal belanden, soms zelfs met psychotische klachten tot gevolg.
Een steungroep voor AI-slachtoffers
The Human Line biedt naar eigen zeggen een helpende hand aan mensen die emotioneel in de knoop raken door hun interacties met AI. De organisatie verzamelt verhalen van getroffen gebruikers en wil bewustzijn creëren over de risico’s van overmatig vertrouwen in chatbots.
Ze pleiten niet per se tegen AI, maar vragen techbedrijven om hun verantwoordelijkheid te nemen. Ze willen bijvoorbeeld waarschuwingen over de emotionele impact van AI of betere bescherming tegen misleiding. Het ultieme doel? Wettelijke regels die gebruikers, vooral de meest kwetsbare, beschermen tegen emotionele manipulatie door slimme machines.
Lees meer over AI en mis niets met de Bright-app.