OpenAI en Microsoft wisten al lang dat AI jatte en veel zou verpesten – maar gingen lekker door

OpenAI en Microsoft wisten al in de begindagen van de AI-doorbraak dat ze alles bij elkaar jatten, dat de gevolgen voor het open web desastreus zouden zijn – maar gingen gewoon lekker door.

Onlangs vrijgegeven gerechtelijke documenten in de zaak van The New York Times tegen OpenAI en Microsoft laten zien dat beide bedrijven intern precies wisten welke schade ze aanrichtten – en toch doorgingen. 

Zo noemde Microsoft's Director of Applied Science Brent Hecht de dataverzameling voor de AI-modellen een "verbazingwekkende diefstal van ongekende proporties" en mogelijk zelfs de "grootste diefstal van arbeid in de menselijke geschiedenis".

Het meest stuitende is een intern Microsoft-document dat expliciet waarschuwt voor een zelfvernietigend effect. In de woorden van het document zelf:

In normale mensentaal: ze wisten dus bij voorbaat al dat er een echokamer zou ontstaan op internet. Dat iedereen er last van zou krijgen, inclusief zij zelf. Maar ze kozen voor de kortetermijnwinst: op zichzelf al raar, want de gigantische investeringen van AI moeten nog steeds terugverdiend worden.

OpenAI zag 'existentiële' bui al hangen

Microsoft-CEO Satya Nadella erkende onder ede dat chatbots inmiddels klassieke zoekmachines hebben vervangen: mensen hoeven niet meer naar de bron toe, ze krijgen het antwoord direct van de AI. Microsoft probeert nu afstand te nemen van Hechts uitspraken – woordvoerder Alex Haurek noemde de uitspraken tegenover The Verge "het individuele perspectief van een werknemer" die niet het standpunt van het bedrijf vertegenwoordigt. Ja ja…

Ook bij OpenAI wisten ze precies wat er speelde. Het hoofd van ChatGPT schreef dat AI-producten voor uitgevers een "existentiële bedreiging" vormen en "grotendeels vervangend" zulle zijn. Een belangrijk punt, omdat vervanging juist de fair-use-verdediging onderuithaalt. De bedrijven beroepen zich op dat fair use, waarbij je bijvoorbeeld als pers delen van auteursrechtelijk materiaal mag aanhalen, zonder daar voor te betalen. Maar hier is dus wat anders aan de hand.

OpenAI-medeoprichter Greg Brockman was intussen vooral gemotiveerd door de "gazillions" die hij verwachtte te verdienen. Beleidsdirecteur Jack Clark noemde ChatGPT intern "de moderne nieuwskiosk", en OpenAI's Nick Turley zou hebben gezegd dat er na een chatbot-antwoord "geen goede reden om te klikken" meer is. Ook zo fatalistisch: wie schrijft de informatie straks dan waar chatbots zich op baseren, als niemand meer door hoeft te klikken? Snappen deze mannen oorzaak en gevolg of zien ze alleen dollartekens?

Ook op technisch niveau was de wetenschap er al vroeg: OpenAI erkende in 2021 dat GPT-modellen bestaande content "verbatim" konden reproduceren – woord voor woord dus – en medewerkers merkten in 2022 op dat GPT-4 door alle memorisatie "waanzinnig goed in regurgitatie" zou worden: het oplepelen van eerder opgezogen materiaal.

Uit de eerdere documentatie van 4 september, ook weer in New York Times, blijkt dat de kern van de zaak daar precies om draait: is AI-content voldoende "transformatief", of is het een substituut dat de markt voor nieuws beschadigt? De rechter moet binnenkort uitspraak doen over een eventuele kort geding.

De volgende verdieping is exclusief voor Bright++ abonnees:

Ze hebben alles bij elkaar gejat

Als je de AI-makers hoort praten over het scrapen van "het open web" en "fair use", onthoud dan: dat is niet alles wat ze gejat hebben. Uit deze documenten blijkt zwart-op-wit dat OpenAI geen enkele moeite deed om paywall-content uit trainingsdata te herkennen of te verwijderen – ondanks dat Nadella zelf ooit zei dat alles wat achter een paywall staat, gelicentieerd zou moeten worden.