Deze Nederlandse startup wil AI eindelijk volledig controleerbaar maken

De meeste AI-systemen zijn behoorlijk goed in het geven van antwoorden, maar zodra er harde regels aan te pas komen, kan er een probleem ontstaan. Want kun je een AI-model wel vertrouwen als je precies moet weten waarom een bepaalde beslissing wordt genomen? De Nederlandse startup LemmaBase denkt van niet en komt daarom met een eigen open source programmeertaal: Lemma.

Het idee achter Lemma is gebaseerd op het principe ‘rules as code’. Wet- en regelgeving, bedrijfsregels en productvoorwaarden kunnen ermee worden vastgelegd op een manier die zowel mensen als computers kunnen begrijpen. Het grote verschil met een traditioneel AI-model is dat de regels controleerbaar zijn en dat daardoor de uitkomst vastligt.

Dat moet vooral belangrijk worden in situaties waarin een fout grote gevolgen kan hebben. Denk bijvoorbeeld aan een hypotheekaanvraag. Een AI-assistent kan het gesprek met een klant voeren, maar Lemma kan vervolgens controleren of de berekening van de maximale leencapaciteit daadwerkelijk aan alle regels voldoet.

Rol voor de overheid

Ook overheden zouden de technologie kunnen gebruiken. Belastingregels en toeslagen kunnen bijvoorbeeld in Lemma worden vastgelegd, zodat duidelijk is welke logica tot een bepaalde beslissing heeft geleid. Gemeenten zouden de taal kunnen inzetten bij vergunningaanvragen, terwijl verzekeraars en logistieke bedrijven er regels voor vergoedingen en douane mee kunnen vastleggen.

Daarmee probeert LemmaBase een ander probleem aan te pakken dan de grote AI-bedrijven. Generatieve AI is juist ontworpen om op basis van waarschijnlijkheden een antwoord te genereren. Dat is handig voor tekst, afbeeldingen en ideeën, maar minder geschikt wanneer een beslissing juridisch of financieel exact moet kloppen. 

LemmaBase positioneert de taal daarom als een aanvulling op AI, niet als een vervanging ervan. De startup ziet daarin ook een manier om minder afhankelijk te worden van de gesloten systemen van Big Tech. En minder afhankelijkheid van de grote Amerikaanse techgiganten is altijd een goed ding. De specificatie en broncode van Lemma zijn via open source beschikbaar op het platform GitHub en de site van LemmaBase.