Europeiska dataskyddsstyrelsen (EDPB) och Europeiska datatillsynsmannen (EDPS) publicerade den 21 juni ett gemensamt remissvar på EU-kommissionens förslag till AI-förordning.

Breddat tillämpningsområde och tillsyn genom dataskyddsmyndigheter
EDPB och EDPS är positiva till EU-kommissionens förslag om att lagen också ska omfatta EU-institutionernas användning av AI och att EDPS blir tillsynsmyndighet för EU-institutionerna. Samtidigt uttrycker båda remissinstanserna att de är djupt bekymrade över att internationella samarbeten för brottsbekämpning är undantagna från den föreslagna AI-lagen, vilket öppnar upp för att lagen kan kringgås.

När det gäller medlemsstaternas tillsyn föreslår EDPB och EDPS att uppgiften bör ges till dataskyddsmyndigheterna som redan utövar tillsyn under GDPR. I yttrandet betonas det att dataskyddsmyndigheterna redan skyddar grundläggande rättigheter i AI-projekt där personuppgifter behandlas enligt GDPR eller brottsbekämpningsdirektivet. EDPS och EDPB anser att den föreslagna lagen innehåller bestämmelser om dataskydd som påverkar tillämpningen av GDPR, EUDPR (dataskyddsförordning för EU-institutionerna) och brottsbekämpningsdirektivet. Om tillsynsuppdraget läggs på dataskyddsmyndigheterna möjliggörs enligt remissvaret en smidigare och mer samstämmig lagtolkning mellan dataskyddslagarna och AI-förordningen. Slutligen anser EDPB och EDPS att det skulle ge dataskyddsmyndigheterna möjlighet att förhindra motsägelsefulla tillsynsbeslut emellan medlemsstaterna.

Förbud mot social poängsättning och att förutspå brottsligt beteende
EDPB och EDPS efterfrågar regelskärpningar kring användningen av AI inom vissa områden. I synnerhet anser de att påträngande AI, som påverkar den mänskliga värdigheten bör förbjudas.
För det första anser EDPB och EDPS att EU-kommissionens förslag förbjuder system för social poängsättning i alldeles för få situationer. I remissvaret framhåller de att förslaget inte hindrar sociala medieföretag och molntjänstleverantörer som har tillgång till stora mängder personuppgifter från att införa sådana system. De rekommenderar därför att det införs ett totalförbud.

För det andra efterlyser EDPS och EDPB ett allmänt förbud mot användning av AI för biometrisk identifiering på offentliga platser oavsett i vilket sammanhang det används. Detta inkluderar identifiering av alla beteendemässiga eller biometriska egenskaper hos en person såsom gångstil, tangenttryckningar, röst, fingeravtryck, ansikte och DNA.
För det tredje efterfrågar EDPB och EDPS ett förbud mot ”biometrisk kategorisering”. Båda remissinstanser vill förbjuda användningen av AI för att kategorisera individer baserat på egenskaper som omfattas av förbudet mot diskriminering i EU-stadgans artikel 21. EDPB och EDPS anser att förbudet bör omfatta både privata och offentliga aktörer.

För det fjärde föreslår EDPB och EDPS i motsats till EU-kommissionens förslag, ett förbud mot att brottsbekämpande myndigheter använder sig av prediktivt polisarbete. Det omfattar situationer där brottsbekämpande myndigheter använder profilering, analys av personlighet och personliga egenskaper eller tidigare brottsligt beteende för att förutspå om en individ kommer begå ett brott eller återfalla i brottslighet. Enligt remissvaret reducerar sådana klassificeringar personen till ett objekt utan fri vilja, vilket strider mot tanken om mänsklig värdighet.
Slutligen anser EDPB och EDPS att användningen av AI för att analysera en persons känsloläge är högst oönskvärt och bör förbjudas som huvudregel. Enligt remissvaret bör sådana analyser endast vara tillåtna i väldefinierade undantagssituationer inom områden som hälsa och forskning. Även i dessa situationer bör det enligt remissvaret finnas krav på att skyddsåtgärder används och att sedvanliga krav i dataskyddsregleringen såsom uppgiftsminimering efterlevs.

Läs mer här