Paus over AI: alignment is niet genoeg als enkelen bepalen

Mocht je deze Tweede Pinksterdag nog wat te lezen zoeken, dan kun je aan de slag met de eerste encycliek van de huidige paus Leo XIV. Zijn 43.000 woorden tellende “Magnifica Humanitas" gaat voor een deel over AI.

Het derde hoofdstuk heet "The Grandeur of Humanity In Light of the Promises of AI". Hierin beschrijft de paus dat AI een waardevolle tool kan zijn, maar dat we er waakzaam mee om moeten gaan. 

Zo noemt het hoofd van de Katholieke Kerk dat deze technologie snel antwoorden op vragen kan geven, maar dat de antwoorden onterecht objectief klinken en het gebruik ervan mogelijk persoonlijke creativiteit en oordeelsvermogen verzwakt. Dat AI een relatie kan simuleren ziet de paus ook als gevaarlijk, omdat mensen daardoor mogelijk het verlangen verliezen om echte menselijke connecties aan te gaan. 

Alignment

Volgens de paus is het daarnaast belangrijk dat AI niet gezien wordt als moreel neutraal. Ook is alignment, waarbij de AI zich gedraagt naar menselijke waarden, niet goed genoeg als die waarden door enkelen worden bepaald. "AI vergroot de macht van degene die al over economische middelen, expertise en toegang tot data beschikken", schrijft Leo XIV. Volgens de paus is het nodig om deze technologie vrij te maken van monopolistische controle en open te stellen voor discussie en debat, zodat het "mensvriendelijk wordt en aansluit bij de veelheid aan menselijke culturen en levenswijzen." 

De paus stelt daarom dat er onder andere meer toezicht nodig is en dat gemeenschappen en organisaties input moeten kunnen geven: "Zij mogen niet worden gereduceerd tot passieve ontvangers van beslissingen die elders worden genomen, maar zij moeten kunnen bijdragen aan de beoordeling en het toezicht." 

Verantwoordelijkheid

De paus richt zich ook nog specifiek op de makers van de grote AI-modellen, door te stellen dat zij een ethische en spirituele verantwoordelijkheid hebben. Volgens Leo XIV dienen zij te werken "met transparantie, verantwoordelijkheid jegens de betrokken gemeenschappen en zorgvuldige aandacht voor het waarborgen dat wat wordt gecreëerd daadwerkelijk een goed doel dient."