Meta waarschuwt ouders als hun kind zorgwekkende gesprekken voert met AI

Als Meta tegenwoordig ergens druk mee is, dan is het wel met de bescherming van jonge gebruikers. Hoewel dat vooral het gevolg is van toenemende druk van buitenaf, is het positief dat het techbedrijf nieuwe veiligheidsfuncties introduceert. Zo gaat Meta ouders waarschuwen wanneer tieners in een gesprek met Meta AI signalen afgeven dat ze aan zelfbeschadiging of zelfdoding denken.

Meta heeft hiervoor een afzonderlijk AI-systeem ontwikkeld dat gesprekken moet herkennen waarin tieners mogelijk verwijzen naar zelfbeschadiging of zelfdoding. Daarbij wordt niet alleen gezocht naar expliciete uitspraken. Het systeem kan volgens Meta ook subtielere verwijzingen herkennen en daarop actie ondernemen.

Wanneer het systeem een zorgwekkend gesprek tegenkomt, geeft het de beoordeling over aan een menselijke medewerker. Die controleert het gesprek en bepaalt uiteindelijk of de ouders daadwerkelijk een melding moeten krijgen. Meta wil daarmee voorkomen dat ouders onnodig schrikken door een verkeerd geïnterpreteerde uitspraak.

Meta neemt liever het zekere voor het onzekere

Tegelijkertijd wil Meta geen risico nemen wanneer de medewerker niet zeker weet of er echt gevaar dreigt. In zo’n geval wordt voor de zekerheid toch een waarschuwing verstuurd. Ouders kunnen daardoor soms een melding krijgen terwijl achteraf blijkt dat hun kind niet direct gevaar liep. Meta neemt dus liever het zekere voor het onzekere. Bij de waarschuwing ontvangen ouders ook informatie van deskundigen over hoe ze het gesprek met hun kind kunnen aangaan.

De functie is vanaf vandaag beschikbaar in de Verenigde Staten, het Verenigd Koninkrijk, Australië en Canada. Meta wil de waarschuwingen voor het einde van 2026 wereldwijd uitrollen. De meldingen gelden alleen voor tieners van wie het Instagram-account is gekoppeld aan het ouderlijk toezicht van Meta. Het gaat bovendien specifiek om gesprekken met Meta AI. Privéberichten met andere gebruikers worden niet door dit systeem gecontroleerd.