Google claimt dat zijn AI 33 keer minder energie verbruikt, maar klopt dat wel?

Het is algemeen bekend dat AI veel energie slurpt, maar desondanks meent Google dat één AI-zoekopdracht nu even veel energie kost als slechts negen seconden tv-kijken. Het energieverbruik van zijn AI-zoekopdrachten is in één jaar tijd met 33 keer verminderd, beweert het bedrijf.

Dat is mooi nieuws, denk je dan, maar is het allemaal wel zo rooskleurig? Bij het analyseren van energieverbruik van AI-modellen is een van de grootste aandachtspunten wat je precies meeneemt in je berekening. Je kan het één wel meenemen en het ander niet, waardoor je een extreem vervormd beeld krijgt. 

Wat heeft Google meegenomen in de berekening?

Laten we eens kijken wat Google allemaal heeft meegenomen in de berekeningen. Allereerst blijkt dat het bedrijf voor hun analyse het energieverbruik van CPU’s, AI-accelerators en geheugen volgt, zowel tijdens het verwerken van prompts in de ruststand. 

Daarnaast is in de analyse ook het energie- en waterverbruik van het hele datacenter bijgehouden. Google weet precies wat zich in dat datacenter bevindt,  waardoor het een schatting kan maken van het aandeel dat uitsluitend wordt gebruikt voor AI-verzoeken. 

Ten slotte heeft het bedrijf ook de CO2-uitstoot van de stroomvoorziening en de uitstoot van de productie van de hardware bijgehouden. 

Niet meegenomen in de berekening

Ze hebben een heleboel netjes meegenomen in de berekening, maar er zijn ook een aantal factoren die niet zijn meegenomen: 

1. De milieukosten van netwerkcapaciteit: Dit varieert sterk per verzoek, afhankelijk van het type verzoek.
2. De belasting van de hardware van de eindgebruiker: Deze verschilt aanzienlijk, afhankelijk van of iemand een krachtige gaming-pc of een smartphone gebruikt.
3. De impact van het trainen van de modellen: Hoewel Google hier redelijke schattingen van zou kunnen maken, is dit niet opgenomen in de huidige analyse.

Het weglaten van deze factoren werpt een kritische blik op de indrukwekkende 33-voudige vermindering. Zou de reductie nog steeds zo groot zijn als al deze elementen wel waren meegenomen? De kans is groot dat het grotere plaatje er aanzienlijk anders uitziet.

Zijn we er daadwerkelijk op vooruit gegaan?

Al was het wel zo, dan nog is het de vraag of we er daadwerkelijk vooruit op zijn gegaan. Google claimt dat het energieverbruik per verzoek best laag is, vergelijkbaar met ongeveer negen seconden tv-kijken. Maar het bedrijf benoemt niet dat het aantal verzoeken tegenwoordig enorm is, zeker nu het heeft besloten om bij elke Google-zoekopdracht ook een AI-antwoord te genereren.

Maar goed, er is ook goed nieuws. Een jaar geleden zou de situatie aanzienlijk slechter zijn geweest. Dankzij de opkomst van zonne-energie en andere duurzame bronnen in de VS en de rest van de wereld, wordt AI steeds minder gevoed door fossiele brandstoffen. Bovendien zijn er, zoals Google's analyse aantoont, wel degelijk enorme efficiëntieverbeteringen in de AI-modellen zelf. Maar of het totale energieverbruik van AI nu daadwerkelijk lager is dan vorig jaar, blijft onduidelijk.

Meer lezen over AI? Download dan de Bright-app en abonneer op onze nieuwsbrief!