©ChatGPT
Genocide-obsessie van Musk's AI Grok komt door stiekeme wijziging 'door iemand'
Grok, de AI-chatbot van Elon Musks bedrijf xAI, begon deze week zomaar over vermeende witte genocide in Zuid-Afrika als gebruikers iets heel anders vroegen. Dat gedrag komt volgens xAI door een 'ongeautoriseerde wijziging'.
Grok zit in X gebakken, en gebruikers kunnen de chatbot bijvoorbeeld om verheldering of uitleg vragen in reactie op een X-bericht. Normaal gesproken krijg je dan gewoon een inhoudelijk antwoord dat bij het onderwerp blijft. De afgelopen dagen besloot Grok op eigen houtje steeds een ander onderwerp aan te snijden. Anders dan waar het over ging, maar het was steeds hetzelfde onderwerp: vermenende genocide in Zuid-Afrika.
De AI gedroeg zich een beetje als een verwarde neef op een familie-verjaardag, die na een drankje teveel ongevraagd begint over complotten. Volgens xAI was het gekke gedrag van Grok het gevolg van een 'ongeoorloofde wijziging' die op 14 mei gemaakt werd, om kwart over drie `s nachts in de VS. Door die wijziging gaf Grok volgens xAI 'een specifieke reactie op een politiek onderwerp'.
Opvallend: publiek kan voortaan meekijken
De wijziging gaat in tegen het beleid van xAI en het bedrijf heeft nieuwe maatregelen om herhaling te voorkomen. De opvallendste is de openbare publicatie van de systeemprompts van Grok op platform GitHub. Dan kan het publiek elke wijziging aan de instructies van de AI zien, en er feedback op geven. Geen stiekeme wijzigingen meer dus. "We hopen dat dit het vertrouwen in Grok kan helpen versterken als een waarheidszoekende AI", aldus xAI.
Tot nu toe waren er ook al controles bij het wijzigen van de instructies van Grok, maar die werden omzeild. Daarom zegt xAI nu extra controles te hebben doorgevoerd. Bovendien is er nu voortaan een team dat de reacties van Grok 24/7 in de gaten houdt, vooral de automatische systemen vreemde antwoorden niet detecteren. Nu kon Grok vrij lang zijn gang gaan met zijn herhalende relaas over de vermeende genocide op witte boeren in Zuid-Afrika, toevallig ook het geboorteland van eigenaar Elon Musk.
In Zuid-Afrika zelf claimen zelfs de meest extreemrechtse partijen niet dat er genocide wordt gepleegd op witte inwoners van het land. Ook het Zuid-Afrikaanse gerechtshof heeft heeft de verhalen over genocide als mythe afgedaan.
Meer AI-nieuws en mis niets met onze Bright-app.