EU-parlamentet antog sin ståndpunkt om AI-förordningen på onsdagen den 14 juni 2023. Parlamentet vill att AI ska utvecklas och användas i Europa helt i linje med EU-rätten och Europeiska värderingar, inbegripet mänsklig kontroll över AI, säkerhet, integritet, transparens, icke-diskriminering samt socialt och miljömässigt välmående.

Med 499 röster för, 28 emot och 93 som avstod röstade parlamentet för en riskbaserad AI-förordning helt i linje med EU-kommissionens förslag. Det innebär att lagkraven som omfattar leverantörer och användare av AI-system, blir lättare eller tyngre beroende på vilken risk AI-systemet utgör för människor.

Skydd mot oacceptabla risker
EU-kommissionen föreslog att AI-system med en oacceptabel risknivå för människors säkerhet skulle förbjudas, till exempel sådana som används för social poängsättning eller klassificering av människor baserat på deras sociala beteende eller personliga egenskaper. EU-parlamentet utökade listan med förbud mot påträngande och diskriminerande användning av AI, såsom system för biometrisk identifiering i realtid på distans i offentliga rum (exempel: användningen av ansiktsigenkänning i realtid genom övervakningskameror i tunnelbanan), biometriska kategoriseringssystem som använder känsliga egenskaper och system för prediktivt polisarbete. Parlamentet röstade för ett förbud mot att AI som analyserar människors känslor ska få användas för att bekämpa brott, vid gränskontroller, på arbetsplatser och inom utbildningsväsendet.

Valsystem och människor ska skyddas
”Allas ögon är riktade mot oss idag. Medan stora teknikföretag slår larm om sina egna uppfinningar har EU gått före och presenterat ett konkret svar på de risker som AI börjar utgöra. Vi vill att AI:s positiva potential för kreativitet och produktivitet ska tillvaratas, men vi kommer också att kämpa för att skydda vår ställning och för att motverka faror för våra demokratier och friheter under förhandlingarna med rådet.” sade Brando Benefei, italiensk socialdemokrat och en av två föredragande politiker som lett förhandlarna i parlamentet.

Europaparlamentet vill att klassificeringen av högrisksystem ska omfatta AI-system som utgör en betydande risk för skada på människors hälsa, säkerhet, grundläggande rättigheter eller miljön. AI- system som används för att påverka väljare och valresultat och rekommendationssystem som används av sociala medieplattformar med över 45 miljoner användare lades till på högrisklistan. Leverantörer av ”foundation models” (som ChatGPT), en ny tenkik som utvecklats snabbt, kommer att behöva bedöma och begränsa eventuella risker. De måste också registrera sina modeller i en EU-databas innan de släpps ut på EU-marknaden.

”AI-förordningen kommer att sätta tonen globalt för utvecklingen och styrningen av artificiell intelligens och säkerställa att denna teknik, som radikalt kommer att förändra våra samhällen genom de enorma fördelar den kan erbjuda, utvecklas och används i enlighet med de europeiska värderingarna om demokrati, grundläggande rättigheter och rättsstatsprincipen.” sade Dragos Tudorache från partigruppen Renew, där svenska Centerpartiet och Liberalerna ingår.

Småföretag och innovation ska främjas
För att främja AI-innovation och stödja små och medelstora företag har parlamentsledamöterna infört undantag för forskningsverksamhet och AI-komponenter som tillhandahålls under licenser med öppen källkod. Den nya förordningen främjar så kallade regulatoriska sandlådor (du kan läsa mer om dem här), eller verkliga miljöer, som inrättas av offentliga myndigheter för att testa AI innan den används.

Europaparlamentet vill stärka medborgarnas rätt att lämna in klagomål om AI-system och rätten att få förklaringar till beslut som fattats av ett AI-system med hög risk. Ledamöterna vill också reformera rollen för EU:s AI-kontor, som ska ha till uppgift att övervaka hur AI-reglerna genomförs.

Medborgare och arbetskraften måste utbildas om AI
Efter omröstningen höll de föredragande politikerna Brando Benifei och Dragos Tudorache en presskonferens tillsammans med EU-parlamentets talman Roberta Metsola.

Under presskonferensen klargjorde Dragos Tudorache att AI-förordningen, i motsats till GDPR som har komplexa legaldefinitioner som företag haft stora utmaningar med att omvandla till teknikspråk, ger ett tydligt mandat till standardiseringsorgan som kan anta tekniska standarder. Han sade också att det pågick en ideologisk strid i parlamentet om den rättsliga definitionen av vad ett AI-system är och att den definition som parlamentet slutligen antog ligger i linje med OECD:s och USA:s definitioner.

Slutligen sa Tudorache att EU och dess medlemsländer kommer att behöva investera massivt i att utbilda sina medborgare om AI och att omskola arbetskraften så att de kan integrera AI i sitt arbete. Han menade att regeringarna måste genomgöra en seriös och samordnad insats för att få med sina medborgare i den digitala omvandlingen. Annars ser Tudorache att det finns en risk för att den ökade digitaliseringen blir en ideologisk stridsfråga.

Nästa steg
EU har två lagstiftande organ, Rådet och Parlamentet har nu båda antagit sina ståndpunkter. Nästa steg
är att de båda organen förhandlar med varandra. Det är först när båda organen är överens som lagen
kan antas .

Läs mer:
EU-parlamentets pressmeddelande, 14 Juni 2023
EU-parlamentets presskonferens, 14 juni 2023