Veiligheidsonderzoeker ChatGPT vertrekt vanwege angst voor de snelheid van AI

©Unsplash

Veiligheidsonderzoeker ChatGPT vertrekt vanwege angst voor de snelheid van AI
30 januari om 11:03

Steven Adler heeft zijn functie als veiligheidsonderzoeker bij OpenAI neergelegd. Zijn vertrek is opvallend, niet alleen omdat hij een van velen is die OpenAI afgelopen jaar verliet, maar vooral vanwege zijn zorgen over de ontwikkeling van ChatGPT en AI in het algemeen.

Op X herhaalt Adler de zorgen die we de laatste maanden vaker door AI-experts zijn geuit. “Eerlijk gezegd ben ik behoorlijk bang voor het tempo waarin AI zich tegenwoordig ontwikkelt”, zegt hij in zijn bericht. “Als ik nadenk over waar ik in de toekomst een gezin wil stichten of hoeveel ik moet sparen voor mijn pensioen, kan ik niet anders dan me afvragen of de mensheid dat punt überhaupt nog kan bereiken.”

Zorgen over AI en de snelheid waarmee het zich ontwikkelt zijn er al sinds de introductie van ChatGPT, maar uit de mond van een veiligheidsexpert wegen dergelijke woorden toch iets zwaarder.

ChatGPT vs DeepSeek maakt het probleem erger

Wat Adler precies bij OpenAI heeft gezien dat hem zo bang maakt, is de grote vraag. Al geeft hij op X wel aan dat de komst van DeepSeek, die de markt deze week compleet op z’n kop zet, de veiligheid van de mens niet ten goede komt. Zeker niet op het gebied van AGI (Artificial General Intelligence).

“Naar mijn mening is een race naar AGI een uiterst riskante gok, met enorme nadelen”, zegt hij. “Geen enkel lab heeft momenteel een oplossing voor het reguleren van AI." "Hoe sneller de race, hoe kleiner de kans dat iemand er op tijd een vindt.”

Wat is AGI en het gevaar dat erbij komt kijken?

AGI is een vorm van kunstmatige intelligentie waarbij de creativiteit en vaardigheden van de mens worden nagebootst wanneer er, bijvoorbeeld, een probleem moet worden opgelost. Het nadeel daarvan is dat een AI heel veel meer informatie nodig heeft en vast moet houden, zodat het dit uiteindelijk zelfs beter kan doen dan de mens.

Wordt dergelijke technologie niet goed gereguleerd, dan kan het zijn dat AI een eigen wil krijgt en uit zichzelf gaat handelen. Volgens Adler is dat dus juist het stuk waar bedrijven te weinig aandacht aan spenderen, om maar de eerste te kunnen zijn.

DeepSeek schudt ChatGPT redelijk door elkaar

OpenAI heeft de afgelopen jaren al redelijke risico’s genomen met zijn taalmodellen, maar de populariteit van DeepSeek kan de situatie verergeren. Het Chinese bedrijf introduceerde vorige week het R1-model voor zijn platform, dat de prestaties van GPT o1 makkelijk weet te evenaren. Maar dan zonder krachtige hardware en bronnen, waar OpenAI wel gebruik van kan maken.

Hoewel Amerikaanse bedrijven het handelen van DeepSeek sterk in twijfel trekken, zorgt dit ook voor paniek. Naast het feit dat aandelen van bedrijven als Nvidia kelderden, levert het ook vragen op over de miljarden dollars die grote bedrijven nodig hebben voor de ontwikkeling van AI.

Al helemaal omdat de Chinese tegenhanger gratis te gebruiken is en geen krachtige functionaliteiten achter een betaalmuur hoeft te stoppen om te overleven.

Lees meer over AI en mis niets met de Bright-app.