Bara omkring var femte svensk känner till att en del beslut inom offentlig sektor fattas på automatisk väg. Det visar en undersökning genomförd av en forskargrupp vid Göteborgs universitet.

Merparten av svarandena tror att automatiseringen leder till sämre insyn i beslutsfattandet och att besluten blir mindre tillförlitliga. Samtidigt tror närmare sju av tio att beslutsfattandet blir mer opartiskt. De som har mer kunskaper visar sig vara mer positivt inställda till tekniken. 

På Arbetsförmedlingen har man sett över rutinerna sedan det framkommit att en ”beslutsrobot” fattat ett stort antal felaktiga beslut. Stickprovskontroller har införts, och numera informeras arbetssökande om att beslut fattas på automatisk väg. Enligt Arbetsförmedlingen rör det sig om en bugg som inte upptäckts när systemet testkörts.

– Efteråt insåg vi att vi inte informerat tillräckligt väl om att beslutet var maskinellt, säger Gabor Sebastiani, digital risk officer vid Arbetsförmedlingen.

Andra myndigheter som automatiserat delar av beslutsfattandet är Transportstyrelsen, Försäkringskassan och vissa kommuner. Beslut om tandvårdsstöd och föräldrapenning fattas i princip helt automatiserat. I Sverige rör det sig än så länge om enklare beslut, men AI-utvecklingen gör det teoretiskt möjligt att överlåta även mer avancerade bedömningar åt maskiner. I Danmark identifierar myndigheter barn som kan behöva särskild omsorg med hjälp av algoritmer. Svenska Försäkringskassan har bedömt att det kan bli möjligt för systemen att lösa komplicerade frågor utifrån stora mängder data, men konstaterar också att implementeringar måste föregås av juridiska och etiska analyser.

I privat sektor används AI av bl a försäkringsföretag och rekryterare. Gabor Sebastiani följer utvecklingen:

– Det här är ett intressant område där vi utforskar, men inte har saker i produktion då vi inte får eller vill fatta beslut på information som inte är uppenbart relevant för beslutet. Exempelvis skulle det vara orimligt att ha ett fotografi på en person som indata i en beslutsprocess.

– Vi har tittat på möjligheten att genom maskininlärning försöka förutspå hur länge en person kommer att vara arbetslös så att vi tidigt kan sätta in insatser för personer vi ser löper hög risk för långtidsarbetslöshet. Vi fick dock inga fantastiska resultat i de försöken, säger Sebastiani.

Han nämner också exemplet med kreditföretag som bedömer betalningsförmåga utifrån vilka enheter som används vid låneansökningar.

– Skulle Arbetsförmedlingen kunna se mönster som pekar på att personer som skriver in sig via en iPad i regel är arbetslösa kortare tid än personer som skriver in sig via en Android-telefon? Om mönstret finns, är det lagligt och moraliskt för en myndighet att fatta beslut om insats baserat på det beslutsunderlaget? Strider inte det mot likabehandlingsprincipen?

I 28 § förvaltningslagen stadgas att beslut kan fattas på automatiserad väg. Digitaliseringsrättsutredningen och eSams rättsliga expertgrupp har uttalat stöd för att bestämmelsen bör kunna betraktas som ett nationellt undantag från förbudet mot helt automatiserade beslut som har rättsliga föjder för den registrerade i dataskyddsförordningens artikel 22.

Förvaltningslagen och dataskyddsförordningen innehåller båda bestämmelser om informationsgivning. Kari Laumann, jurist vid norska Datatilsynet, föreläste om AI och kravet på transparen vid Nordic Privacy Arena 2017. Se inspelningen här:

Vid årets konferens diskuterar representanter för bl a Arbetsförmedlingen automatiserade beslut och transparens. Vi välkomnar också företrädare för försäkringsbolag och brottsbekämpande myndigheter för diskussioner om AI och profilering. Nordic Privacy Arena äger rum i Stockholm 23-24 september 2019.

Fredrik Svärd
fredrik.svard@dpforum.se

Läs också:

Ny bok varnar för bias i myndigheters algoritmer
”Är Sverige redo att låta maskiner fatta besluten?” (dn.se)
Juridik som stöd för förvaltningens digitalisering (regeringen.se)