En AI under utveckling är som ett kakmonster som ständigt hungrar efter mer data! Europeiska unionens kommande AI-förordning balanserar genom lagstiftning monstrets aptit med ett gott skydd för personuppgifter. 

Europaparlamentet (EP) kommer att rösta om sin inledande ståndpunkt om förslaget till AI-förordning i mitten på juni. När den här artikeln publicerades var EP:s behandling planerad den 13 juni 2023. Förra veckan antog EP:s två utskott IMCO (Utskottet för den inre marknaden och konsumentskydd) och LIBE (Utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor) ett förslag vilket Forum för Dataskydd rapporterade om (läs mer här).

Ett av de olika förslagen från utskotten som kan vara av särskilt intresse för dataskyddsexperter är det om regulatoriska sandlådor och testmiljöer. I denna artikel fördjupar vi oss i den här delen av förslaget till AI-förordning som kommer göra det möjligt för utvecklare av AI-system att behandla personuppgifter utan samtycke för att testa ett AI-system. Det är dock viktigt att ha i åtanke att det här är ett pågående lagstiftningsärende och ett förslag från Europaparlamentets utskott. Det som beskrivs nedan kan komma att ändras både av Europaparlamentets omröstning i plenum och i förhandlingarna med Rådet som är EU:s andra lagstiftande organ.

Vad är en regulatorisk sandlåda?
Regulatoriska sandlådor spelar en avgörande roll för att främja innovation och säkerställa dataskydd. Det är kontrollerade miljöer där företag kan testa innovativ teknik, produkter och tjänster under ledning av tillsynsmyndigheter som också ger dem juridisk vägledning innan de släpper sina AI-system på marknaden. Sandlådorna erbjuder en trygg plats för experimenterande och innovation samtidigt som de garanterar att bestämmelserna om dataskydd följs. Enligt förslaget till AI-förordning skulle företag kunna behandla personuppgifter i dessa testmiljöer utan samtycke. Avsikten är att främja utvecklingen av AI-teknik som kräver tillgång till stora datamängder, inklusive känslig information, i utbildnings- och testsyfte. Samtidigt införs strikta regler som förbjuder utvecklaren från att ta med sig eller använda personuppgifterna utanför testmiljön. 

Myndigheterna som inrättat sandlådan kommer att ge vägledning och övervaka vad som händer i sandlådan för att identifiera och minska risker. Det gäller exempelvis risker som rör grundläggande rättigheter, demokrati, rättsstaten, hälsa och säkerhet samt miljön. Sandlådorna ska också säkerställa att AI-systemen följer andra relevanta lagar.

Sandlådor
Kompromissförslaget från IMCO- och LIBE-utskotten skapar en ny rättslig grund där behandlingen av personuppgifter inuti en regulatorisk sandlåda ses som utförandet av en uppgift av allmänt intresse.  Medlemsstaterna kommer att vara skyldiga att inrätta minst en sandlåda på nationell nivå. De kan också skapa ytterligare sandlådor på regional eller lokal nivå eller i samarbete med andra medlemsstater. EU-kommissionen och European Data Protection Supervisor kan också inrätta sandlådor på unionsnivå.

Eftersom deltagande i sandlådan innebär att AI-utvecklaren i praktiken får vissa lättnader från lagkrav, förväntas den deltagande utvecklaren följa tillsynsmyndigheternas instruktioner och agera snabbt i god tro för att begränsa allvarliga risker för säkerhet, hälsa, miljö och grundläggande rättigheter som kan uppstå under utvecklingen och experimenterandet i sandlådan. Vidare bör potentiella leverantörers agerande i sandlådan beaktas om en tillsynsmyndighet beslutar om eventuella sanktionsavgifter för regelbrott och när de ska bestämma om utvecklaren tillfälligt eller permanent ska stängas av från att delta i sandlådan (2021/0106(COD) s. 45–46 Skäl 72 och 72a).

Sandlådorna påverkar inte myndigheternas tillsyns- och korrigeringsbefogenheter. Om betydande risker identifieras under utvecklingen och testningen av ett AI-system kan myndigheterna tillfälligt eller permanent avbryta testprocessen eller deltagandet i sandlådan. AI-utvecklare som deltar i sandlådan kommer fortfarande hållas ansvariga för eventuella skador som drabbat utomstående under experimenterandet. Om utvecklarna respekterar den särskilda planen som upprättats och i god tro följer den vägledning som tillhandahålls från myndigheterna kommer dock inga administrativa sanktionsavgifter att utdömas för brott mot AI-förordningen.

Enhetliga regler för inrättandet av sandlådor
I ändringsförslagen från IMCO-LIBE införs en ny bestämmelse, artikel 53a, som föreskriver att EU-kommissionen ska anta delegerade akter inom 12 månader efter det att förordningen har trätt i kraft. Dessa kommer att säkerställa EU-gemensamma regler, som ska säkerställa att sandlådorna är öppna för alla potentiella leverantörer av AI-system. Kriterierna för att få tillgång till sandlådan kommer att vara öppna och rättvisa, och myndigheterna ska informera de sökande om sitt beslut inom tre månader efter det att ansökan lämnats in.

Sandlådorna kommer att ge bred och lika tillgång för alla deltagare, vilket säkerställer att efterfrågan från de som vill delta tillgodoses. Tillgången till sandlådorna kommer att vara gratis för små och medelstora företag och nystartade företag, även om myndigheterna i undantagsfall kan kräva ersättning för extraordinära kostnader. Sandlådorna kommer också att underlätta samverkan med andra relevanta aktörer inom AI-ekosystemet, såsom standardiseringsorgan, forskningslaboratorier och digitala innovationshubbar. Detta kommer att möjliggöra samarbete mellan den offentliga och privata sektorn och främja innovation och utveckling inom AI-området.

Sandlådorna kommer att underlätta utvecklingen av verktyg och infrastruktur för testning, benchmarking, bedömning och förklaring av dimensioner av AI-system som är relevanta för sandlådorna, t.ex. noggrannhet, robusthet och cybersäkerhet. Detta kommer att bidra till att minimera riskerna för grundläggande rättigheter, miljön och samhället i stort.

Insatser för social och ekologisk hållbarhet
Genom den föreslagna artikel 54a blir medlemsstaterna skyldiga att stödja forskning och utveckling inom artificiell intelligens (AI) som gynnar samhället och naturen. I huvudsak uppmuntrar bestämmelsen medlemsstaterna att prioritera AI-projekt som fokuserar på att nå framsteg på områden som värderas högt av samhället och som anses utgöra ett allmänintresse. Det gäller exempelvis AI-lösningar som främjar tillgänglighet för personer med funktionsnedsättning, hanteringen av socioekonomiska ojämlikheter och uppnår hållbarhets- och miljömål. För att förverkliga detta innehåller bestämmelsen flera strategiska åtgärder som medlemsstaterna ska använda. Medlemsstaterna ska ge sådana projekt prioriterad tillgång till sandlådor, tilldela offentliga medel, öka kunskapen om bestämmelserna i AI-förordningen och inrätta särskilda kommunikationskanaler för att lämna svar på frågor om hur förordningen ska tillämpas.

Därutöver understryker bestämmelsen vikten av att involvera civilsamhället och samhällsaktörer i AI-projekt. Målet med att medlemsstater aktivt stödjer dessa aktörers deltagande och ledarskap i AI-projekt är att säkerställa att ett brett spektrum av perspektiv och expertis bidrar till utvecklingen av AI-lösningar som verkligen gynnar samhället och miljön.

Läs mer

Europaparlamentets dagordning för 13 juni 2023

Hemsida för IMCO (Utskottet för den inre marknaden och konsumentskydd) 

Hemsida för LIBE (Utskottet för medborgerliga fri- och rättigheter samt rättsliga och inrikes frågor) i Europaparlamentet

Forum för Dataskydds artikel ” EU är ett steg närmare världens första AI-lag”, 12 maj 2023 

Utkast till kompromissändringsförslag och betänkande från IMCO och LIBE-utskotten