2020-05-11

Etiska rådets möte den 12 december 2019 om vilka etiska överväganden som bör göras vid användandet av automatiserade språkanalyser

Generaldirektören ställde en fråga angående etiska överväganden vid användandet av automatiserade språkanalyser.

2019-12-02
Dnr 1.3.1-2019-42874

Fråga

I ett asylärende kan Migrationsverket i vissa fall använda sig av en språkanalys. Analysen görs idag sent i asylprocessen, när den asylsökande personen inte gjort sannolikt varifrån han eller hon kommer och det inte finns andra sätt att utreda frågan. Det huvudsakliga syftet med en språkanalys är att utreda personens språkliga hemvist. En språkanalys kan peka ut var den sökandes dialekt sannolikt hör hemma och var den sökande troligen har socialiserat sig, men kan inte på egen hand bekräfta en persons hemvist.

Projekt Digitaliserad språkanalys (DSA) syftar till att Migrationsverket skapar en e‑tjänst för en digital och säker hantering av ljudfiler, beställningar av språkanalyser och språkanalysrapporter. Migrationsverket kommer att genomföra och lagra digitala ljudinspelningar och en extern analysverksamhet kan ta del av strömmat och avidentifierat innehåll, för analys av språk.

DSA är ett fristående projekt, men genom projektet skapas också förutsättningar för att kunna utveckla automatiserad språkanalys, inledningsvis som komplement till dagens språkanalyser. Verktyget för automatiserad språkanalys är AI-baserat. Genom användande av ljudfiler kan den talade dialekten bli ungefärligt bestämd geografiskt. I mjukvaran jämförs röstprov med inprogrammerade språk/dialekter, framför allt utifrån fonetiska drag.

Migrationsverkets avsikt är att genomföra en automatiserad analys tidigt i asylprocessen. Resultatet skulle då kunna vara en del av underlaget inför en asylutredning. Det kan även nämnas att Migrationsverket redan nästa år planerar att börja använda sig av tidiga språkanalyser utförda av leverantörer.

Tyskland arbetar redan med automatiserade språkanalyser. Erfarenheten därifrån visar att automatiserade språkanalyser kan avgöra om en person tillhör ett större språkområde: Maghrebarabiska, irakisk arabiska, levantisk arabiska, egyptisk arabiska eller gulfarabiska. Från tysk sida, och även från några andra länder, finns ett önskemål om samarbete för att utveckla en större databas med intalade språk. Eftersom mjukvaran bygger på maskininlärning förbättras träffsäkerheten allteftersom antalet tillförda röstprov ökar.

Det är allt vanligare att myndigheter i sin myndighetsutövning använder sig av automatiserade bedömningar, vilket aktualiserar frågeställningar om det är etiskt försvarbart att en maskinvara gör en sådan bedömning istället för en människa. Migrationsverket överväger en övergång där automatiserade språkanalyser vid ett för den sökande negativt utfall kombineras med ett mänskligt expertutlåtande.

Migrationsverket måste också förhålla sig till faran för ett felaktigt analysresultat. En mänsklig bedömning kan vara felaktig, men även en maskinvara kan ha en viss felprocent.

Ytterligare en fråga är hur Migrationsverket på bästa sätt presenterar en automatiserad språkanalys för den asylsökande personen. I vissa fall kanske han eller hon inte har någon större erfarenhet av digitalisering eller förtroende för att en maskinvara gör språkanalysen.

Vidare hur handläggaren ska förhålla sig till en automatiserad språkanalys. Finns speciella omständigheter att ta hänsyn till för i det fall den automatiserade språkanalysen inte överensstämmer med det som den sökande berättar?

Finns det andra etiska aspekter Migrationsverket bör ta fasta på, när språkanalysen är en automatiserad bedömning gjord av en maskinvara?

Svar från etiska rådet

Bakgrund

Den etiska frågan behandlar etiska implikationer som resultaten från projektet Digitaliserad språkanalys (DSA) kan komma att medföra. Projektet syftar till att Migrationsverket skapar en e-tjänst för en digital och säker hantering av ljudfiler, beställningar av språkanalyser och språkanalysrapporter. Tanken är att Migrationsverket kommer att genomföra och lagra digitala ljudinspelningar och en extern analysverksamhet kan ta del av strömmat och avidentifierat innehåll, för analys av språk.

Språkanalys är ett av flera sätt att bestämma och synliggöra den språkliga hemvisten. Hemvisten som juridisk term kan vara avgörande för vilket skyddsbehov individen har. Språkets ursprung är att anse som den språkliga hemvisten, men utifrån detta går det inte att dra slutsatser den asylsökandes medborgarskap eller var personen är född. I Tyskland gör man detta i vissa fall när en sökande registreras.

Arbetet med automatiserade språkanalyser är ännu i sin linda. Man arbetar med att ta fram maskinvara som med stor mängd språkprov har utvecklat artificiell intelligens. I dagsläget gäller det enbart för arabiska och ganska stora språkområden som kan identifieras.

Etiska rådets överväganden

Projektet Digitaliserad språkanalys (DSA) väcker många frågor av principiell karaktär, såväl etiska som rättsliga. Användandet av artificiell intelligens är allt vanligare i offentlig förvaltning och något som följer av en allt mer digitaliserad förvaltning i dagens Sverige. Utvecklingen av detta måste dock ske på ett sådant sätt att det finns en etisk och rättslig medvetenhet.

Grundläggande som utgångspunkt är att asyl är en rättighet. Den automatiserade språkanalysen riskerar att bli dominerande om den regelmässigt är med. Såsom uppdraget och rättsläget ser ut i dag så har språkanalysen ett bevisvärde, men ska inte vara styrande.

Migration är ofta en process som pågår under lång tid. En person kan ha vistats på olika platser. Språket förändras också över tid, till karaktär och innehåll, såväl hos individen som i de olika språkområdena. Det finns många nationella gränser som inte överensstämmer med språkliga gränser eller minoriteters hemvist. Det måste tas i beaktande i såväl framtagandet av såsom användandet av automatiserad språkanalys.

En fråga är om användningen av automatiserad språkanalys kommer att vara frivillig eller kan komma att användas mer rutinmässigt. Är tanken att språkanalyser ska göras i fler ärenden och tidigare? Och vad kan uppdraget tjäna på en sådan förändring? Idag används språkanalys när övrig bevisning inte är tillräcklig. Sökanden har bevisbördan, om än ganska låg. Sökanden ska genom handlingar och sin berättelse göra sin identitet sannolik. Om inte nivån höjs så erbjuds sökanden en språkanalys.

Etiska rådet bedömer att det finns en påtaglig risk att denna typ av extern bevisning upplevs som starkare än vad den är. Nu används analysen som en hjälp för den sökande. Om användningen blir mer frekvent är detta ett större principiellt problem än faktum att analyserna är automatiserade. Dock kan den automatiserade språkanalysen ge ett falskt intryck av att vara ett slags facit. Programvaran är inte perfekt idag; på 20 000 ärenden skulle 400 ges felaktiga resultat. Idag kan språkanalyser aldrig ha avgörande betydelse till den sökandes nackdel. Etiska rådet finner det oroande om så skulle ske framöver. Vi menar också att automatiserade språkanalyser som tillmäts bevisvärde bör kombineras med ett mänskligt expertutlåtande.

Den mellanmänskliga dimensionen är också av etisk betydelse. Hur kommuniceras bedömningar som är gjorda av en dator på bästa sätt? Hur ska tjänstemannen förhålla sig till risken med felaktiga analysresultat? Kommunikationen blir ännu viktigare när olika former av teknik och beslutsfattande används. Det viktigaste kanske inte är metoden utan saken.

Artificiell intelligens i den offentliga förvaltningen har kommit att bli allt vanligare (se till exempel SOU 2018:25, ny förvaltningslag). Det ställer nya frågor om rättslig grund för behandlingen, hur grundläggande fri- och rättigheter respekteras och hur god förvaltning uppnås. Dataskyddsregler, samtyckesfrågor, delning av information med tredje part, upphovsrätt, myndighetens insyn i algoritmen etc. är bara några av de frågor som blir aktuella att förhålla sig till. Det väcker frågor om vad det kan leda till i framtiden. Vad kan automatiserad språkanalys användas till mera? Det finns alltid en viss spänning när ny teknik ska börja användas. Viktigt är då att arbeta medvetet med kontrollmekanismer, att analysera uppnådda resultat och kritiskt granska dem. Idag har de första automatiska besluten på Migrationsverket fattats. Det handlar om bifall i enkla medborgarskapsärenden.

Etiska rådet önskar hänvisa till sitt yttrande rörande den etiska frågan om utredningsmetodik, diarienummer 1.3.1-2019-10229. Den nu aktuella frågan visar på motsvarande sätt hur riskfyllt det kan vara att använda automatiserad språkanalys för tidigt i processen. Med potentialen som artificiell intelligens medför så vill etiska rådet understryka hur viktigt det är att stötta medarbetarna i processerna som teknisk förnyelse innebär, att ta tillfället i akt och diskutera erfarenheter och reaktioner på förändringarna så att medarbetarna inte upplever att det är fråga om större ändringar än vad det egentligen handlar om. Det finns risk att man övervärderar det man får genom en knapptryckning. Och om det inte är fråga om en ändring i arbetssättet så bör det understrykas och förtydligas. Automatiserad språkanalys är de facto tänkt att ha samma typ av bevisvärde och roll i processen. Etiska rådet uppmanar också Migrationsverket att närmare studera möjligheter och risker samt följa upp andra länders erfarenheter på migrationsområdet samt närmare studera andra svenska erfarenheter.