Matchningsalgoritmer vid anvisning enligt bosättningslag
Generaldirektören ställer frågor om matchningsalgoritmer vid anvisning enligt bisättningslagen.
Etiska rådets möte: 2021-03-11
Dnr: 1.3.1-2021-5107
Generaldirektörens fråga
I nuläget är matchningsprocessen för anvisning enligt bosättningslagen till kommun av personer som beviljats uppehållstillstånd på grund av skyddsskäl till stor del manuell. Handläggare vid Migrationsverkets bosättningsenhet har ett tvingande matchningskriterium att ta hänsyn till (kommunens uppfyllnadsgrad utifrån årsplaneringen och kommuntalet) och några icke-tvingande matchningskriterier (t ex närhetsprincipen, särskilda skäl eller behov) som de i den mån det är möjligt tar hänsyn till. Särskilda skäl kan exempelvis vara ett påbörjat arbete, påbörjade studier eller delad vårdnad om barn. Särskilda behov handlar oftast om den nyanländes hälsotillstånd, där det till exempel föreligger behov av närhet till specialistsjukvård, anpassning i bostaden eller särskilda skolinsatser.
Det är svårt att beakta alla dessa kriterier samtidigt. Handläggaren begränsas av tid (man kan enbart göra bedömningen utifrån de förutsättningar som råder vid tidpunkten för matchningen) och plats (man kan bara jämföra ett begränsat antal kommuner utifrån uppfyllnadsgraden). Dessutom är det svårt att göra en rättvis bedömning eller prioritering utifrån varje individs personliga förutsättningar när en familje- eller samhörighetsgrupp anvisas tillsammans.
Även om bosättningshandläggaren gör den bästa möjliga matchningen utifrån rådande förutsättningar innebär gällande arbetssätt att matchningen för hela gruppen (oavsett om den utgörs av en eller fler personer) riskerar att bli suboptimal. Den nyanlända hamnar inte i den kommun som skulle vara mest lämplig och kommunen blir anvisad en person som inte har bäst möjliga förutsättningar att integreras just där.
Migrationsverket undersöker nu möjligheterna att ta hjälp av en algoritm för matchning mellan nyanländ och kommun. Maskininlärning, optimering av olika parametrar för att öka chansen till att hitta ett arbete i kombination med forskning i ekonomi och ekonometri kan tillämpas genom algoritmer som ökar sannolikheten att en individ eller en grupp av individer matchas mot den kommun där förutsättningarna för att hitta ett arbete och integrera är bäst.
Inför ett beslut om att tillämpa matchningsalgoritmer i bosättningsprocessen vill Migrationsverket få input från etiska rådet kring följande etiska frågor:
- Vad är de främsta etiska utmaningarna i samband med användning eller tillämpning av algoritmer i myndighetens beslutsfattande, i jämförelse med mänsklig handläggning och beslutsfattande?
- Vilken vägledning kan Migrationsverket behöva för att kunna omhänderta dessa etiska utmaningar?
Etiska rådets svar
Rådet konstaterar att maskinbearbetning kan bidra till att öka kvaliteten i underlagen för beslut i matchningsprocessen, men att det finns en rad punkter att beakta.
Det är av stor vikt att träffsäkerheten för matchningsalgoritmerna är god och att det därför säkerställs att det finns tillräcklig mängd data. Maskininlärning är beroende av mycket stora mängder data. Detta ställer krav på värnandet av den personliga integriteten och skyddet av personuppgifter. Det finns också en risk för att algoritmerna fäster vikt vid variabler som i sak innebär diskriminering.
Matchningsalgoritmerna är avsedda att vara handläggarstöd. Som rådet tidigare konstaterat angående en fråga om språkanalys finns ändå en risk att handläggare lutar sig mycket och ger det en auktoritet som inte var avsedd. Jfr Etiska rådets möte den 12 december 2019 om vilka etiska överväganden som bör göras vid användandet av automatiserade språkanalyser – Migrationsverket (diarienummer 1.3.1-2019-42874). Kompetenskraven på handläggarna inför beslutsfattande behöver preciseras, liksom förutsättningarna för maskininlärning.
Det är också viktigt att utfallet av matchningen analyseras och att kriterierna inte är för smala och endast omfattar etablering på arbetsmarknaden som en indikation på den ekonomiska integrationen. Även den sociala integrationen är en avgörande dimension.
Artificiell intelligens kan inte förklara och motivera, vilket är något som krävs i offentlig verksamhet enligt förvaltningslagen. Det är även svårt att i efterhand rekonstruera processen. Samtidigt ska inte heller komplexiteten i det mänskliga omdömet underskattas. Genom att tydliggöra vikten av att förklara och motivera beslut stärks kvaliteten också i det mänskliga beslutsfattandet. Till detta kommer att endast personer kan ta ansvar som moraliska agenter.