Google haalt leugenachtig AI-model offline na beschuldiging aan senator
AI-modellen die het niet altijd even nauw nemen met de waarheid zijn niets nieuws. Toch is er nu flinke ophef ontstaan rond het AI-model Gemma, dat wel erg ver ging. Het model kwam namelijk met pittige beschuldigingen aan het adres van een Amerikaanse politicus. Beschuldigingen die volledig uit de lucht gegrepen bleken. Google heeft Gemma daarom voorlopig offline gehaald.
In de afgelopen dagen ontdekten meerdere gebruikers dat Gemma feitelijke vragen beantwoordde met verzonnen details. Het meest extreme voorbeeld was een bewering dat de Republikeinse senator Marsha Blackburn zich schuldig zou hebben gemaakt aan seksueel misbruik. Gemma onderbouwde die claim zelfs met niet-bestaande nieuwsartikelen.
Google heeft inmiddels in woord en daad gereageerd. Zo is Gemma niet langer te gebruiken via AI Studio. Ontwikkelaars kunnen het model nog wel aanroepen via de API, maar voor het grote publiek is het voorlopig einde verhaal.
Google Gemma verkeerd gebruikt
In een verklaring legt Google uit wat er is gebeurd en benadrukt het dat Gemma nooit bedoeld was voor dit soort gebruik. Het AI-model is geen consumentenproduct, maar bedoeld voor ontwikkelaars en onderzoekers. Gemma was via AI Studio enkel beschikbaar voor testdoeleinden.
Toch gingen gebruikers het model ook op andere manieren bevragen, waardoor Gemma vermoedelijk begon te hallucineren, AI-jargon voor het overtuigend verzinnen van onzin. Dat resulteerde in misleidende antwoorden, waaronder dus een ongefundeerde beschuldiging van seksueel misbruik.
Wijze les
De verwachting is dat Gemma op termijn terugkeert, maar dan met flink aangescherpte filters en waarschuwingen. Voor Google is het hoe dan ook een duidelijke les: wees voorzichtiger met het vrijgeven van AI-tools, zelfs als ze in eerste instantie alleen voor ontwikkelaars zijn bedoeld.