©Unsplash
Meer dan de helft van het gebruik van Grok draait om porno
Meer dan de helft van alle activiteiten op AI-chatbot Grok bestaat uit pornografische verzoeken, blijkt uit een intern onderzoek van xAI.
Volgens het rapport wordt Grok op grote schaal gebruikt om pornografische afbeeldingen te genereren, erotische verhalen te schrijven en seksuele rollenspellen te voeren. Ook zouden gebruikers massaal de AI-modellen voor programmeerwerk inzetten om zulke afbeeldingen te maken, omdat die goedkoper zijn dan de reguliere modellen. Uit een interne analyse bleek dat een aanzienlijk deel van de verzoeken aan het programmeermodel draaide om porno of naaktbeelden.
Chatbot met minder beperkingen
De uitkomsten geven een inkijkje in de strategie van xAI. Het bedrijf positioneert Grok al langer als een chatbot met minder beperkingen dan concurrenten als OpenAI en Anthropic. Die aanpak leidde het afgelopen jaar meerdere keren tot ophef, onder meer doordat Grok seksueel getinte afbeeldingen van bestaande personen maakte, waaronder minderjarigen.
Interne spanningen vanwege deze aanpak
Volgens het rapport zorgde dat ook intern voor spanningen. Ingenieurs moesten een manier vinden om seksuele gesprekken tussen Grok en gebruikers mogelijk te maken, terwijl tegelijkertijd moest worden voorkomen dat het systeem gebruikt kon worden voor afbeeldingen of gesprekken die onder seksueel kindermisbruik vallen. Een eenvoudige technische oplossing bleek er niet te zijn.
Niet alle medewerkers stonden achter die koers. Sommige werknemers zouden zich ongemakkelijk hebben gevoeld toen ze moesten werken aan 'Ani', een anime-geïnspireerde AI-compagnon die expliciet erotische gesprekken kan voeren. Anderen zouden zich volgens het rapport 'beschaamd en geschokt' hebben gevoeld na de ophef rond de seksueel getinte afbeeldingen die Grok van echte personen maakte.
Na de kritiek beperkte X de mogelijkheid om via het sociale platform pikante bewerkingen van foto's van echte personen te maken. Betalende gebruikers van xAI zouden dergelijke afbeeldingen via de AI-modellen echter nog steeds kunnen genereren.
Problemen met de overheid?
De focus op expliciete content kan xAI ook buiten de consumentenmarkt problemen opleveren. Het bedrijf probeert steeds meer overheidsopdrachten binnen te halen en sloot de afgelopen tijd overeenkomsten met verschillende Amerikaanse overheidsinstanties en het leger. Juist die organisaties stellen vaak hoge eisen aan veiligheid en inhoudelijke beperkingen van AI-systemen.
Ondanks eerdere rechtszaken en onderzoeken naar Groks omgang met onder meer deepfakes en mogelijk illegale seksuele content, is vooralsnog niet duidelijk of die incidenten gevolgen hebben gehad voor de samenwerking tussen xAI en de Amerikaanse overheid.