Meta maakt fout door op stoel van journalist te gaan zitten

Meta dacht dat het een goed idee zou zijn om zelf nieuws te maken met hulp van AI. Achteraf bleek het een grote fout.

Schoenmaker blijf bij je leest. Dat gaat hier wel op, want het Amerikaanse techbedrijf Meta heeft een domme fout gemaakt. Wat begon als een experiment liep uit op een fiasco. In de zelfstandige Meta AI-app verscheen de afgelopen maanden stilletjes een ‘For You’-feed.

Clickbait en nepnieuws

De content bestond uit volledig door AI gegenereerde artikelen, afgestemd op je interesses. Althans, dat was de bedoeling. In de praktijk bleek het een eindeloze stroom met opgeblazen verhalen, inclusief clickbait titels.

Wie de artikelen las kreeg  geen journalistiek stuk voorgeschoteld, maar een beknopte samenvatting zonder bronnen of nuance. De inhoud was niet gecontroleerd en daardoor kwam het voor dat wat er stond niet eens echt waar was. Meta deelde nepnieuws met de hele wereld.

Daar bleef het niet bij. De bijbehorende beelden van de artikelen werden met AI gegenereerd en toonden regelmatig publieke figuren, maar dan net verkeerd. Meerdere versies van dezelfde persoon, anatomisch onmogelijke houdingen en gezichten die ergens tussen herkenbaar en vervreemdend zweven. Nergens werd aangegeven dat het AI-content betrof.

Na vragen van journalisten trok Meta snel aan de noodrem. Tegenover The Verge zegt het Amerikaanse bedrijf dat de functie ‘een test’ was en deze wordt stopgezet. Een experiment dat ze beter niet hadden kunnen doen, zo blijkt achteraf.