Hoe gaat de IND om met kunstmatige intelligentie (AI)?

AI ontwikkelt zich razendsnel, evenals de maatschappelijke discussie daarover. Hoe zet de overheid AI in? En de IND? Spelen AI-toepassingen een rol bij besluiten over een verblijfsvergunning? Het werk van de IND draait om mensenlevens. Dat is een grote verantwoordelijkheid en dat vraagt om openheid over de manier waarop de IND deze technologie in het werk toepast. Daarom heeft de IND een visie opgesteld voor de inzet van AI.

Nog geen hoogrisico-AI-systemen bij de IND

In Europa gelden regels voor het gebruik van AI door overheden en andere organisaties. Die zijn vastgelegd in de Europese AI-verordening. Hoe groter de gevolgen voor mensen, hoe strenger de eisen. Besluiten over verblijf en asiel raken mensen direct. AI-toepassingen die daarbij een rol spelen, kunnen daarom in de categorie ‘hoogrisico-AI’ vallen. 

De IND gebruikt AI op dit moment alleen voor ondersteunende taken, zoals VisualDOC dat helpt bij het herkennen en classificeren van bijvoorbeeld geboorte- en huwelijksaktes. Of chatbot Sofia die bezoekers op de IND-website helpt de juiste informatie te vinden. Deze AI-tools worden niet als hoogrisico AI-systemen aangemerkt. De IND doet wel onderzoek naar toepassingen die potentieel hoogrisico kunnen worden. Een voorbeeld daarvan is het project CELIA, dat inzet op innovatie en optimalisering van taal- en dialectenherkenning van asielzoekers, in combinatie met menselijke expertise. Dit systeem moet eerst duidelijk bewijzen dat het aan alle strenge Europese regels voldoet.

Daarnaast maakt de IND gebruik van algoritmen die niet onder AI vallen: dat zijn systemen die op basis van vaste, vooraf geprogrammeerde regels werken, zonder dat ze zelf leren of aanpassen. De techniek helpt onze medewerkers om administratieve en repeterende taken sneller uit te voeren. Het zijn altijd onze medewerkers die beslissen op een aanvraag. 

Kansen in de praktijk

De IND verkent nieuwe manieren waarop AI het werk kan ondersteunen. Zo wordt getest of spraaktechnologie kan worden ingezet bij het transcriberen van gehoren. Dat kan medewerkers tijd besparen. Ook werkt de IND aan toepassingen waarmee documenten en dossiers sneller worden samengevat, zodat medewerkers sneller de kern van een zaak in beeld hebben. Dat maakt het werk efficiënter en dat is ook in het belang van de aanvrager. 

Zeven principes voor de omgang met AI

De IND heeft zeven principes vastgesteld om richting te geven aan de rol van AI binnen de organisatie. Hieronder lees je daarvan een korte samenvatting.

1. We zorgen dat onze medewerkers AI-geletterd zijn. Dat betekent dat IND’ers die met AI werken, daarin worden opgeleid en leren wat een AI-systeem doet, hoe ze de uitkomsten kunnen beoordelen en waar de beperkingen zitten. 
    
2. We zetten AI in ter ondersteuning van onze ambities, waarden en processen. Dat betekent dat we onze werkprocessen als uitgangspunt nemen en kijken waar AI die kan verbeteren. AI is een middel, nooit een doel op zich. 
    
3. We toetsen AI-toepassingen vooraf op ethische en juridische houdbaarheid. Bij toepassingen met een hoger risico voeren we een Impact Assessment Mensenrechten en Algoritmes (IAMA) uit. Dat is een verplichte test waarmee de overheid vooraf controleert of een algoritme of AI-systeem wel veilig, eerlijk en volgens de mensenrechten werkt.
    
4. We kennen verantwoordelijkheden toe en monitoren deze gedurende de hele levenscyclus van AI-toepassingen. Dat betekent dat er altijd iemand eindverantwoordelijk is voor het goed functioneren van een AI-toepassing: van begin tot eind. 
    
5. We verkleinen de risico’s op, en gevolgen van, bias (vooroordeel, vooringenomenheid) en onjuiste toepassing. Data is nooit neutraal en algoritmen kunnen onbedoeld bepaalde groepen anders behandelen. Daar houden we al rekening mee bij het ontwerp en de ontwikkeling van AI-toepassingen, en we blijven dat doen door te monitoren en onze medewerkers van dit risico bewust te maken. 
    
6. Er is altijd een mens verantwoordelijk voor een overheidsbesluit. Een AI-toepassing of algoritme kan een rol spelen in de voorbereiding, maar een medewerker neemt het besluit en kan uitleggen hoe dat besluit tot stand is gekomen. Deze menselijke tussenkomst moet een betekenisvol onderdeel vormen van het besluitvormingsproces.
    
7. We communiceren open en transparant over de inzet van algoritmen en AI. Zo publiceert de IND informatie over algoritmen en AI-toepassingen in het algoritmeregister van de overheid, ook wanneer dat niet verplicht is. 

Samenwerking

De IND pakt de inzet van AI niet alleen op. Binnen het ministerie van Justitie en Veiligheid (JenV) werkt de IND samen met de directie AI en met andere uitvoeringsorganisaties aan AI-gerelateerde onderwerpen, zoals AI-geletterdheid en transparantie. Daarnaast werkt de IND met het CDO Office van JenV aan gezamenlijke richtlijnen en kaders om te voldoen aan de eisen van de AI-verordening. Ook de samenwerking met kennispartners zoals TNO, NFI en universiteiten, speelt daarin een belangrijke rol.