Een nepfoto van de paus gemaakt met AI
Populaire plaatjesgenerator legt gratis versie stil na misbruik
De gratis versie van de populaire AI-software Midjourney, waarmee op commando afbeeldingen zijn te genereren, is tijdelijk stilgelegd. Midjourney kon de grote stroom nieuwe gebruikers niet aan en er was sprake van misbruik van de probeerversie.
Met de gratis versie van Midjourney waren 25 afbeeldingen te genereren met behulp van kunstmatige intelligentie (AI). Het Amerikaanse bedrijf heeft de gratis probeerversie deze week stopgezet, na een 'overweldigende vraag en misbruik'.
Dit soort AI-plaatjesmakers zijn de laatste tijd flink verbeterd en ook veel populairder geworden. Door een aantal commando's te schrijven zijn binnen mum van tijd steeds mooiere plaatjes te creëren.
Trump en de paus
Gebruikers plaatsen de resultaten massaal op sociale media, waar ze regelmatig viral gaan. Dat gebeurde bijvoorbeeld met AI-beelden van een hardhandige arrestatie van Donald Trump, die nooit heeft plaatsgevonden. Ook een nepfoto van de paus in een hippe winterjas ging de hele wereld over. Als AI-beelden zonder context worden gedeeld, kan het lijken alsof ze echt zijn.
Midjourney kreeg te maken met een grote toename van het aantal gratis gebruikers en wijt dat onder meer aan een 'virale how-to-video in China'. De gratis versie is volgens Midjourney-topman David Holz op pauze gezet 'vanwege enorme hoeveelheden mensen die wegwerpaccounts maken om gratis afbeeldingen te krijgen'.
"Dit gebeurde tegelijk met een tijdelijk tekort aan grafische rekencapaciteit. Het verslechterde ook onze dienst voor betaalde gebruikers", aldus Holz tegen The Verge.
Levensechte beelden
Eerder deze maand verscheen de verbeterde versie van Midjourney, die fotorealistische plaatjes mogelijk maakt, die er veel levensechter uitzien. Volgens Holz bood de gratis probeerversie nog geen toegang tot die vernieuwde versie 5. Midjourney verkoopt abonnementen aan gebruikers die meer beelden en snelle verwerkingen nodig hebben.
Verboden woorden
Gebruikers van Midjourney mogen allerlei termen niet gebruiken in hun commando's om plaatjes te genereren. Inmiddels staan woorden als 'arrestatie' en 'gearresteerd' op die zwarte lijst. Ook commando's over de Chinese leider Xi Jinping zijn verboden.
Van de bekende concurrenten van Midjourney hanteert Stable Diffusion een veel minder strenge regels. DALL-E van OpenAI heeft als beleid dat alle gegenereerde afbeeldingen kindvriendelijk moeten zijn.
Zorgen over snelle ontwikkeling
Door de snelle opmars van kunstmatige intelligentie, zoals de komst van AI-taalmodellen als GPT-4, groeien de zorgen over de langetermijngevolgen van de technologie. Ruim duizend AI-experts riepen deze week op om de ontwikkeling van AI te pauzeren, omdat er eerst duidelijke grenzen afgesproken en ingebouwd moeten worden.
Midjourney-topman Holz denkt dat AI in het volgende decennium ook grote impact in de fysieke wereld zal hebben, schrijft hij. "De fysieke wereld beweegt langzaam zonder legers van robots en massafabricage of biotechnologieën die nog niet bestaan, maar dat soort dingen zullen er zeker komend decennium zijn."