Deze AI helpt de IND bij asielaanvragen, maar staat nergens geregistreerd

AI kun je tegenwoordig voor zo’n beetje alles gebruiken, zelfs bij de vraag wat er met asielzoekers moet gebeuren. Het blijkt namelijk dat ook onze Immigratie- en Naturalisatiedienst (IND) twee AI-systemen inzet om efficiënter te werken. Medewerkers gebruiken deze systemen bij de behandeling van asielaanvragen.

Dat blijkt uit onderzoek van NRC. De krant ontdekte dat zo’n tweehonderd medewerkers van de IND de beschikking hebben over twee AI-assistenten: Robin en ChatIND. Deze systemen worden niet ingezet om zelf een besluit te nemen over asielaanvragen. Ze zijn vooral bedoeld om te helpen bij het voorbereidende werk.

Robin kan bijvoorbeeld zoeken in beleid en jurisprudentie, terwijl ChatIND documenten kan samenvatten, teksten kan vertalen en gesprekken kan uitschrijven en analyseren. Gezien de hoge druk op de IND is het begrijpelijk dat de dienst nieuwe technieken inzet om efficiënter te werken. Toch doet deze ontdekking wel wat wenkbrauwen fronsen, omdat beide systemen ontbreken in het landelijke Algoritmeregister.

Waarom de IND deze AI niet hoeft te melden

Volgens de IND hoeft dat ook niet, omdat Robin en ChatIND niet als hoogrisico-AI worden gezien. Dat botst alleen wel met de eigen richtlijnen van de dienst. Het uitgangspunt is namelijk dat AI-toepassingen ook in het register worden gepubliceerd als dat niet verplicht is. Op dit moment staan daar twee toepassingen van de IND in: Case Matcher en een systeem voor documentonderzoek.

In de Europese AI-verordening vallen AI-systemen die worden ingezet bij migratie en asiel al snel in de zwaarste risicocategorie. Toch is dat bij Robin en ChatIND niet het geval, en dat heeft vooral te maken met de manier waarop ze worden gebruikt. Er is namelijk een uitzondering voor systemen die puur voorbereidende taken uitvoeren en geen wezenlijke invloed hebben op een beslissing. Volgens de IND is dat bij deze twee systemen het geval en is het uiteindelijk altijd een medewerker die een asielaanvraag beoordeelt.

AI bepaalt meer dan alleen de voorbereiding

Toch is daar discussie over, omdat niet volledig valt uit te sluiten dat AI indirect invloed heeft op de uiteindelijke beslissing. Robin bepaalt bijvoorbeeld mede welke informatie en jurisprudentie een medewerker vindt, terwijl ChatIND gesprekken analyseert en documenten samenvat. De systemen nemen dus zelf geen beslissing, maar kunnen wel mede bepalen op basis van welke informatie een medewerker dat doet.

Juist daar zitten volgens deskundigen de risico's. Onderzoeker Ola al Khatib van de Universiteit Utrecht wijst tegenover NRC op automation bias: mensen hebben de neiging om informatie van een computersysteem sneller voor waar aan te nemen. Hierdoor kan een fout of bepaalde keuze in een AI-samenvatting alsnog doorwerken in een asielbesluit.

Advocaten zetten vraagtekens bij ChatIND

Die zorg leeft inmiddels ook bij asieladvocaten. Zij zetten vraagtekens bij de huidige werkwijze en vinden vooral dat er meer openheid moet komen over hoe ChatIND wordt gebruikt. Volgens hen is het samenvatten en analyseren van informatie uit een dossier gewoon onderdeel van het proces dat uiteindelijk tot een beslissing leidt.