OpenAI heft team op dat risico's van AI-modellen in de gaten hield

OpenAI zou het team opgeheven hebben dat de risico's van AI-modellen in de gaten hield en manieren ontwikkelde om die risico's te beperken.

Volgens de Financial Times heeft OpenAI dit 'preparedness team' eind juli al ontbonden. Dat betekent niet dat OpenAI alle risico's maar laat gaan. De verantwoordelijkheid is nu onderverdeeld tussen specifieke gebieden zoals cyber en bio, en bij bestaande teams neergelegd.

Toch is dit de zoveelste keuze van het bedrijf waaruit je kunt concluderen dat OpenAI veiligheid minder serieus neemt. Zo is eerder het team gesloten dat zich bezighield met de alignment van superintelligentie en de controle erover. Ook zijn recentelijk het hoofd van ethiek en het hoofd van veiligheid vertrokken bij het bedrijf.

Deze gebeurtenissen zijn opvallend in een tijd waarin de gevaren van AI steeds concreter worden, zoals AI-modellen die zelfstandig bedrijven hacken.