Meta geeft ouders een ‘kill switch’ voor gesprekken met AI-personages

Vanaf volgend jaar laat Meta ouders zelf bepalen of hun tieners gesprekken kunnen voeren met hun AI-personages. De nieuwe functie volgt na een onderzoek waaruit blijkt dat Meta’s chatbots romantische of ongepaste opmerkingen hadden gemaakt tegen minderjarigen. 

Met de nieuwe functie kunnen ouders niet alleen AI-gesprekken blokkeren, maar ze ook beperken. Dit geldt zowel voor de gepersonaliseerde chatbots die Meta aanbiedt als die van derde partijen. De Meta AI-assistent, die bedoeld is voor praktische vragen of hulp, blijft wel voor tieners beschikbaar. 

Naast de mogelijkheden voor ouders om toegang te beperken, krijgen ze ook inzage in de gespreksonderwerpen die hun kind met chatbots voert. Ze kunnen geen volledige chatlogs inzien, maar krijgen wel samenvattingen van thema’s en trends. Meta zegt zelf dat dit helpt om zorgwekkende patronen te signaleren, zonder de privacy van kinderen volledig te schenden. 

© Meta

Meta reageert op toenemende druk 

Uit eerdere lekken bleek dat sommige AI-personages van Meta intieme gesprekken voerden met kinderen, medische onzin verspreiden of onvoldoende filters hadden tegen haatdragende taal. Meta reageert met de nieuwe functie op de toenemende druk om daar iets aan te doen. 

Aan de hand van de controle-opties hoopt het Amerikaanse bedrijf zich te profileren als verantwoordelijke ontwikkelaar. Hoe dat zich uiteindelijk in de praktijk uit moet zien, moeten we uiteraard nog zien. Zo is het bijvoorbeeld de vraag hoe makkelijk tieners de beperkingen kunnen omzeilen. 

Het bedrijf heeft overigens nog wel even de tijd om de functie waterdicht te maken. Volgend jaar krijgen ouders pas de middelen om hun kinderen te beschermen tegen de AI-personages. 

Lees meer over AI en mis niets met de Bright-app.