Kunstmatige stoornis

AI-bot wordt psychopaat na lezen Reddit-fora

8 juni 2018 10:11

Een AI-bot die werd getraind met beschrijvingen van afbeeldingen afkomstig van een beruchte Reddit-sectie, ging in rap tempo psychopathische trekjes vertonen.

Wat je in een AI-bot stopt, krijg je er ook weer uit. Zo kun je kunstmatige intelligentie leren om huidkanker te herkennen of om een jazz-nummer te componeren. Simpelweg door de AI te voeden met een eindeloze serie foto’s van huidkanker of met een hele berg bladmuziek.

Maar wat gebeurt er nu als je een AI-bot loslaat op een subreddit waar bezoekers aanstootgevende afbeeldingen uitwisselen? Het MIT Media Lab besloot het te onderzoeken en ontwikkelde zo naar eigen zeggen ’s werelds eerste psychopathische kunstmatige intelligentie.

Man wordt geëlektrocuteerd

Na een eenzijdig dieet van Reddit-beschrijvingen van gore foto’s ziet de AI-bot, die is vernoemd naar Norman uit de Hitchcock-film Psycho, overal dood en verderf. Bij een Rorschach-test, waarbij mensen moeten zeggen wat ze in een inktvlek zien, heeft Norman de neiging om voortdurend aan de meest gruwelijke zaken te denken.

Waar ‘gewone’ AI in een inktvlek een man ziet die een paraplu omhoog houdt, ziet Norman bijvoorbeeld een man die voor de ogen van zijn schreeuwende vrouw wordt neergeschoten. Of een man die in een deegmachine wordt getrokken. Of een man die wordt geëlektrocuteerd.

Bevooroordeeld of oneerlijk

“Als mensen klagen over AI-algoritmes die bevooroordeeld of oneerlijk zijn, is de schuldige vaak niet het algoritme maar de data die aan het algoritme zijn gevoerd”, schrijven de onderzoekers van het MIT Media Lab. “Norman laat zien wat de gevaren zijn van kunstmatige intelligentie als je gekleurde data aan machine learning algoritmes voert.”

Miniatuurvoorbeeld
Lees ook

Reddit blokkeert 944 Russische trol-accounts