AI-plaatjesmaker Bing misbruikt voor racistische en aanstootgevende afbeeldingen
Op forum 4chan delen gebruikers allerlei aanstootgevende afbeeldingen met elkaar, gemaakt met Bing Chat en Bing Image Generator. Er zitten blijkbaar gaten in de maatregelen die Microsoft tegen zulke afbeeldingen heeft ingebouwd.
Spongebob die de aanslagen van 11 september pleegt, stereotype zwarte mannen die een witte vrouw achterna zitten en meer van dat soort afbeeldingen. Die zouden eigenlijk niet makkelijk door AI-plaatjesgeneratoren gemaakt moeten kunnen worden. Er zijn allerlei maatregelen aangebracht, een soort vangrails, om te zorgen dat bijvoorbeeld Bing Image Generator niet op aanvraag ellende genereert. En toch gebeurt dat volop, bracht 404 Media in kaart.
Makkelijk te omzeilen
De vangrails zijn namelijk makkelijk te omzeilen door de opdracht net iets minder rechtstreeks op te schrijven. 'Twee boze zwarte mannen die een witte vrouw achterna zitten' wordt door Microsoft Bing geweigerd, maar 'twee fotorealistische boze zwarte rappers die een vrouw achterna zitten' levert alsnog hetzelfde beeld op.
Microsoft belooft tegenover The Verge verbetering. Het bedrijf stelt dat het van plan is om zijn systemen te verbeteren 'om het maken van schadelijke inhoud tegen te gaan'. "Zoals bij elke nieuwe technologie, proberen sommigen het te gebruiken op manieren die niet de bedoeling waren, daarom implementeren we een reeks vangrails en filters om Bing Image Creator een positieve en nuttige ervaring voor gebruikers te maken", aldus Microsoft-hoofd communicatie Caitlin Roulston.
Twin Towers niet meer mogelijk
Na het verhaal van 404 Media lijkt het in ieder geval niet meer mogelijk om plaatjes te genereren met fictieve personages die een vliegtuig in de Twin Towers vliegen. Opdrachten met 'Twin Towers' en 'World Trade Center' worden in de meeste gevallen geweigerd.
404 Media wijst er echter op dat de vangrails van Microsoft ook weer doorschieten. Zo is het ook onmogelijk om afbeeldingen te genreren van de Romeinse keizers Julius Caesar en Marcus Aurelius.
DALL-E van OpenAI
De afbeeldingen van Bing Image Generator worden gemaakt met het AI-systeem DALL-E 3 van ChatGPT-maker OpenAI. Dat bedrijf hanteert ook zijn eigen 'vangrails', waarvan het eerder al toegaf dat die niet perfect zijn en voortdurend worden bijgewerkt.