AI bouwt AI: Claude leidt al een kwart van het werk aan zijn opvolger

Anthropic zegt dat zijn AI-model Claude inmiddels 26 procent van het onderzoeks- en ontwikkelingswerk aan nieuwe AI-modellen leidt. Dat schrijft het Amerikaanse bedrijf in een blogpost. Anthropic belooft dit soort cijfers voortaan regelmatig te publiceren.

Leiden betekent hier dat Claude een opdracht in hoofdlijnen krijgt en die van begin tot eind zelf afwerkt, waarna een mens het resultaat beoordeelt.

Volledig zelfstandig werkt Claude nergens, zegt Anthropic: mensen kijken overal mee. Maar het aandeel groeit hard. In maart dit jaar deed AI nog maar 1 procent van het werk. Aan ruim 90 procent van al het onderzoek werkt AI inmiddels op zijn minst mee.

In augustus waren op het belangrijkste interne platform van Anthropic doorlopend zo'n 30.000 AI-agents bezig met onderzoeks- en programmeerwerk. Elke handeling wordt vooraf gecontroleerd. Van de ruim 1 miljard beslissingen die de agents die maand namen, werd ongeveer 1 op de 47.000 tegengehouden.

Wie kijkt er mee?

Anthropic zegt zelf dat individuele agents zich zelden misdragen, maar dat ook zeldzaam gedrag geregeld voorkomt zodra er duizenden agents aan het werk zijn. Ook concurrent OpenAI kondigde een dag eerder aan onverwacht modelgedrag voortaan te rapporteren.

Anthropic gaf ook een inkijk in zijn veiligheidswerk: in juli ging zo'n 6 procent van de rekenkracht voor AI-onderzoek naar veiligheid. Voor onderzoek dat AI zelf uitvoerde, was dat 12 procent. Alle cijfers komen van Anthropic zelf, dat ze bovendien met zijn eigen modellen berekende. Externe controleurs die ze kunnen narekenen, moeten nog aan de slag.