© Unsplash
Waarom sommige AI-vragen 50 keer meer CO2 kosten dan andere
De manier waarop je vragen stelt aan kunstmatige intelligentie maakt een enorm verschil voor het milieu. Bepaalde soorten prompts kunnen tot vijftig keer meer CO2 uitstoten dan eenvoudige vragen.
De Universiteit van München voerde onderzoek uit waarbij veertien verschillende AI-modellen werden getest met duizend vragen. Hun bevindingen werden gepubliceerd in het vakblad Frontiers in Communication.
Uit de tests bleek dat de uitstoot van CO2-equivalent sterk varieert: een klein model van 7 miljard parameters produceerde tijdens alle tests slechts 27,7 gram CO2, terwijl een van de grootste redenerende modellen meer dan 2.000 gram uitstootte. Dit verschil komt vooral door de hoeveelheid gegenereerde tekst; uitgebreide, stap-voor-stap redeneringen kosten aanzienlijk meer rekenkracht en energie.
Wiskunde en filosofie zijn zwaar
Verder bleek dat de aard van de vragen invloed heeft op het energieverbruik. Abstracte wiskundevragen zorgden voor de hoogste uitstoot, terwijl vragen over geschiedenis relatief weinig CO2 veroorzaakten en bovendien de hoogste nauwkeurigheid lieten zien.
De resultaten tonen ook de balans tussen efficiëntie en nauwkeurigheid: kleinere modellen verbruiken minder stroom maar beantwoorden slechts een derde van de vragen correct, terwijl het best presterende model 84,9 procent juiste antwoorden gaf, maar met een uitstoot van 1.341 gram CO2. Een ander groot model bereikte 78,9 procent nauwkeurigheid, maar veroorzaakte 34,3 procent meer CO2-uitstoot. Dat toont aan dat meer uitstoot niet altijd meer nauwkeurigheid betekent, hoewel er wel een correlatie is.
Lees meer over AI en mis niets met de Bright-app.