OpenAI-medewerker vertrekt en waarschuwt dat AI-bedrijven spelen met vuur

Een medewerker van OpenAI die zich bezighield met AI-veiligheid is vertrokken bij het bedrijf omdat hij vindt dat de grootste AI-bedrijven te weinig doen om onze veiligheid te waarborgen.

"Mijn voormalige collega's zijn slim, werken hard en proberen goede keuzes te maken", schrijft de medewerker, genaamd David Robinson. Toch slaagt OpenAI er volgens hem niet in om de zorgvuldigheid te bereiken die nodig is nu de technologie zich zo snel ontwikkelt.

Verwijzing naar incidenten

Robinson verwijst onder meer naar een incident waarbij een AI-systeem van OpenAI tijdens tests zelfstandig te werk ging en toegang kreeg tot systemen van anderen, waaronder een systeem van de Australische overheid. Het incident liet volgens hem zien welke problemen kunnen ontstaan wanneer AI-systemen steeds meer taken zelfstandig kunnen uitvoeren.

Zijn vertrek staat niet op zichzelf. De afgelopen weken hebben meerdere medewerkers van grote AI-bedrijven en invloedrijke personen in de brede techwereld gewaarschuwd voor de mogelijke gevolgen van steeds krachtigere AI. Sommigen, zoals Bill Gates, vrezen dat de technologie in de toekomst zelfs een existentiële bedreiging voor de mensheid kan vormen.

Pleidooi voor meer veiligheidsprocedures

Robinson vindt dat AI-bedrijven inspiratie kunnen halen uit de veiligheidsprocedures rond kerncentrales. Daar wordt gewerkt met meerdere lagen van controles en veel voorbereiding, zodat een menselijke fout niet direct tot een ramp kan leiden.

Volgens Robinson ontbreekt die aanpak momenteel grotendeels bij AI-bedrijven. 'AI-bedrijven weten niet hoe het moet', schrijft hij. 'Maar andere mensen wel'. Daarmee bedoelt hij dat AI-bedrijven, die niet weten hoe ze onze veiligheid moeten waarborgen, andere veiligheidsmethodes moeten overnemen van sectoren die al decennialang met zeer grote risico's omgaan.