Den nederländska dataskyddsmyndigheten Autoriteit Persoonsgegevens (AP) offentliggjorde den 7 december 2021 att den utfärdat en sanktionsavgift på 28,2 miljoner kronor (2,75 miljoner euro) till den nederländska skattemyndigheten. Enligt hemsidan Enforcement Tracker, som kartlägger sanktionsavgifter i EU:s medlemsstater, är detta den hittills högsta sanktionsavgiften som utdelats i Nederländerna.

Den nederländska skattemyndigheten behandlade under olika former, personuppgifter på ett diskriminerande vis, åtminstone mellan åren 2016 och 2020. Myndigheten handlägger ansökningar om barnomsorgsbidrag som föräldrar använder för att betala daghemskostnader. I kampen mot bidragsfusk behandlade den nederländska skattemyndigheten olagligt sökandes personuppgifter genom:

1) Registrering av dubbelt medborgarskap.

2) Algoritmisk profilering för riskbedömning baserad på nationalitet.

3) Systematisk användning av nationalitet som sökkriterium i manuella databassökningar.

För det första fann AP att det bröt mot GDPR att i detta sammanhang registrera om någon är nederländsk medborgare och samtidigt medborgare i ett annat land. AP ansåg att skattemyndigheten endast behövde registrera att sökanden var nederländsk medborgare för att bedöma om denne var berättigad till barnomsorgsbidrag.

För det andra använde det nederländska skatteverket en algoritm för att riskbedöma sökande. En av riskindikatorerna var huruvida den sökande var utländsk medborgare eller hade dubbelt medborgarskap, vilket AP ansåg vara irrelevant för att utföra kontrollerna.

För det tredje visade AP:s utredning att 213 manuella databassökningar hade genomförts mellan maj 2018 och april 2019, som alla var baserade på nationalitet. När det skedde en förändring i inflödet av ansökningar från en viss nationalitet kunde det få skattemyndigheten att titta närmare på alla sökande i den gruppen i jakt på systematiskt bedrägeri. Till exempel omfattade två databassökningar alla sökande med medborgarskap från Ghana respektive Bulgarien.

AP fann att skattemyndigheten behandlade uppgifterna i strid med dataskyddsprinciperna i GDPR och utan rättslig grund. Vid beräkningen av sanktionsavgiften tog AP också hänsyn till att uppgifterna behandlades systematiskt och diskriminerande, i strid med grundläggande rättigheter och med sociala och ekonomiska konsekvenser för de registrerade. AP fastställde sanktionsavgiften till 28,2 miljoner kronor (2,75 miljoner euro).

Många drabbade fick sina liv förstörda och regeringen fick avgå

Dataskyddsförordningen syftar till att förebygga riskerna för de registrerade (se skäl 75). Detta fall kan ses som en bekräftelse på att dessa risker är allt annat än teoretiska.

The Guardian rapporterade i januari 2021 att den nederländska regeringen avgick efter att en parlamentarisk utredning kommit fram till att grundläggande rättsstatsprinciper hade kränkts. Tidningen rapporterar att 10 000 familjer, som felaktigt anklagades för att på falska grunder ha fått barnomsorgsbidrag, tvingades betala tillbaka bidraget, vilket enligt tidningen ledde till förödande konsekvenser för dem.

Nederländernas nationella statistikbyrå släppte i oktober 2021 siffror som avslöjade ytterligare konsekvenser för de drabbade familjerna, enligt Irish Times. Mer än 1 100 barn togs om hand av socialtjänsten mellan 2015 och 2020 efter att deras föräldrar blev ekonomiskt ruinerade. Artikeln i Irish Times fortsätter med att konstatera att skandalen ledde till en hel rad sociala, hälsomässiga och ekonomiska problem som i många fall vände upp och ned på de drabbades liv. Enligt nättidningen NL Times har regeringen avsatt 51,2 miljarder kronor (5 miljarder euro) för kompensation till de drabbade.

I ett blogginlägg (på nederländska) på AP:s webbplats reflekterar myndighetens styrelseordförande Aleid Wolfsen över vad som hände. Blogginlägget tar upp utmaningarna med att använda AI för riskbedömning inom den offentliga sektorn. Han varnar för risken för diskriminering, informerar om bristen på rättsligt skydd för offren i det här fallet och framhåller att medborgarna måste veta varför de blir utvalda för att kunna ta vara på sin rätt.

Händelserna i Nederländerna har fått Amnesty International att publicera en rapport om diskriminerande användning av algoritmer för riskbedömning i sociala trygghetssystem. De efterlyser effektivare tillsyn och övervakning av den offentliga sektorns användning av algoritmer och bättre tillgång till rättsmedel (lagliga vägar att få sin sak prövad) för individer och grupper vars rättigheter har kränkts.

Vill du fördjupa dig på egen hand i denna nyhet? Nedan kommer en hel lista på Engelska och Nederländska länkar.

Engelska källor:

Dataskyddsmyndigheten APs pressrelease på engelska, 8 dec 2021.

Artikel i Irish Times, 22 okt 2021.

Artikel i the Guardian, 15 januari 2021.

Amnesty Internationals uttalande 25 oktober 2021, om diskriminerande algoritmer med länk till deras rapport.

Direktlänk till Amnestys rapport om diskriminerande algoritmer.

Artikel i NL Times 29 oktober 2021.

Artikel i det kanadensiska nätmagasinet Vice, 1 mars 2021.

Artikel i Dutch News 15 januari 2021 med intervjuer av drabbade.

Artikel i Dutch News 20 oktober 2021 om statistiken över omhändertagna barn.

Inslag i BBC den 15 januari 2021.

Nederländska källor:

APs tillsynsbeslut om sanktionsavgiften, 7 dec 2021.

APs pressrelease om beslutet, 7 dec 2021.

Blogginlägg av styrelseordföranden i Nederländska dataskyddmyndigheten AP, 10 dec 2021.

Nederländska statistikbyråns fick ett regeringsuppdrag att ta fram statistik på omhändertagna barn med anledning av skandalen, de officiella siffrorna publicerades här den 18 oktober 2021.

Den parlamentariska utredningen som publicerades i december 2020.

Officiell reflektion från Nederländska ”högsta förvaltningsdomstolen”, 19 november 2021 om dess egen roll med en ursäkt till drabbade familjerna. ”Högsta förvaltningsdomstolens” ordförande är ångerfull inför att förvaltningsdomstolarna under lång tid konsekvent gick på skattemyndighetens linje och inte var mer kritiska. Reflektionen innehåller en lista på åtgärder som domstolen vill ska vidtas för att återställa förtroendet för förvaltningsdomstolarna.

(Nederländska Raad van State är ett statsorgan med två avdelningar. Ena avdelningen för förvaltningsrätt fungerar som högsta förvaltningsdomstol. Det är ordföranden för förvaltningsavdelningens som uttalar sig.  Den andra, rådgivningsavdelningen, yttrar sig över lagförslag och har en liknande roll som lagrådet i Sverige).