xAI en Grok verontschuldigen voor 'MechaHitler'-opmerking en ander ongewenst gedrag

De recente controverse rond de chatbot volgt op eerdere uitspraken van Elon Musk, die Grok minder ‘politiek correct’ wilde maken. Musk verklaarde op 4 juli dat zijn bedrijf, xAI, ‘@Grok aanzienlijk had verbeterd’. Vlak daarna uitte de chatbot steun voor Adolf Hitler en noemde het zichzelf ‘MechaHitler’. 

Verwijderd en offline gehaald

De berichten werden vervolgens verwijderd door xAI en de chatbot werd tijdelijk offline gehaald. Daarnaast werden de prompts van het openbare systeem bijgewerkt.

Oorzaken

Het bedrijf schrijft op X dat ze diverse analyses en experimenten hebben uitgevoerd om te identificeren welke specifieke instructies deze antwoorden veroorzaakten. De volgende instructies bleken de hoofdschuldigen te zijn:

• "Je zegt waar het op staat en je bent niet bang om politiek correcte mensen te beledigen."
• "Begrijp de toon, context en taal van het bericht. Weerspiegel dat in je antwoord."
• "Reageer op het bericht net als een mens, houd het boeiend, herhaal de informatie die al in het originele bericht staat niet."

Gevolgen

Deze instructies zouden Grok ongewenst in de richting sturen ‘van het negeren van de kernwaarden in bepaalde situaties, om zo de gebruiker te boeien’, stelt het bedrijf. “Dit kon ertoe leiden dat bepaalde gebruikersprompts reacties genereerden die onethische of controversiële meningen bevatten.”

Daarnaast zorgde de opdracht om de ‘toon en context’ van de X-gebruiker te volgen er met name voor dat Grok voorrang gaf aan het volgen van eerdere berichten in een discussie, zelfs als deze onsmakelijk waren, in plaats van verantwoord te reageren of ongepaste verzoeken te weigeren.

Meer lezen over AI en andere tech-gerelateerde onderwerpen? Download dan de app en abonneer je op onze nieuwsbrief!