Din varukorg är för närvarande tom!
EU är ett steg närmare världens första AI-lag
Europeiska Unionen (EU) har just tagit ett steg närmare målet att anta världens första lag som ska reglera användningen av artificiell intelligens. Torsdagen den 11 maj 2023 röstade utskotten för den inre marknaden och konsumentskydd samt medborgerliga fri- och rättigheter, rättsliga och inrikes frågor om AI-förordningen. I nästan steg sker en omröstning i plenum (där alla 705 parlamentariker får rösta). Omröstningen beräknas äga rum någon gång mellan den 13 och 15 juni 2023.
Medan USA och Kina tävlar om vem som ska ha det teknologiska försprånget satsar EU, som i fallet med GDPR när det gäller dataskydd, på att bli pionjären som sätter den globala standarden för regleringen av AI. Syftet med EU:s kommande AI-förordning är att säkerställa en människocentrerad och etisk utveckling av AI i Europa, med fokus på att göra AI-systemen säkra, transparenta, icke-diskriminerande och miljövänliga.
EU har två lagstiftande organ. I december 2022 antog rådet sin första ståndpunkt. Efter omröstningen i plenum, där Europaparlamentet antar sin första ståndpunkt, kommer EU:s trialog att inledas. Under trialogen kommer de båda lagstiftande organen att förhandla under EU-kommissionens ledning, med siktet inställt på att anta lagen mot slutet av 2023.
AI-förordningens systematik utgår från risk. I första hand vilka risker användningen ett AI-system kan medföra för enskilda personers liv, hälsa och mänskliga rättigheter. Det är inte tekniken i sig som regleras, utan sammanhanget den används i.
Det finns fyra risknivåer:
– Oacceptabel risk (förbjudet)
– Hög risk (starkt reglerad)
– Medelhög risk (krav på öppenhet)
– Låg risk (AI förordningen ställer inga krav på denna)
Förbud
AI-system som utgör en oacceptabel risk för människors säkerhet kommer att förbjudas strikt. Parlamentsledamöterna ändrade förbudslistan så att den även inkluderar ett förbud mot påträngande och diskriminerande användning av AI-system, såsom biometrisk fjärrigenkänning i realtid i offentliga miljöer och biometriska kategoriseringssystem som använder känsliga egenskaper (t.ex. kön, ras, etnicitet, religion, politisk åsikt). Förbudslistan inkluderar även system för prediktivt polisarbete (som bedömer risken för att en viss person kommer begå ett brott i framtiden), system för att analysera en persons känsloläge i brottsbekämpande verksamhet, vid gränskontroller, på arbetsplatser och i utbildning, samt urskillningslös skrapning av biometriska data från sociala medier eller övervakningsvideor för att skapa databaser för ansiktsigenkänning.
Hög risk
Listan på högriskområden har utökats till att även omfatta skador på hälsa, säkerhet, grundläggande rättigheter och miljö. AI-system som används för att påverka väljare i politiska kampanjer och rekommendationssystem som används av sociala medieplattformar med mer än 45 miljoner användare enligt Digital Services Act har också lagts till på listan över högriskområden.
För att främja AI-innovation har utskottsledamöterna också inkluderat undantagsregler för forskning och delar av AI-system som bygger på öppen källkod. Förordningen har också bestämmelser om regulatoriska sandlådor och kontrollmiljöer där AI-system kan testköras under ledning av en myndighet i en kontrollerad testmiljö med regellättnader. Parlamentsledamöterna vill också stärka medborgarnas rätt att lämna in klagomål om AI-system och få förklaringar om beslut baserade på riskfyllda AI-system som väsentligt påverkar deras rättigheter.
Brando Benifei och Dragos Tudorache, politiker i Europaparlamentet som lett förhandlingarna, berömde i ett pressmeddelande AI-förordningen som en banbrytande lag. De påpekar att förordningen kombinerar skyddet för grundläggande rättigheter med rättslig säkerhet för företag som främjar innovation. De betonade att EU kan bli ledande inom området för människocentrerad, pålitlig och säker AI. Benifei framhöll att lagen måste vara relevant över tid, medan Tudorache betonade att AI-förordningen nog är det viktigaste lagstiftningsärendet parlamentet under den här mandatperioden.
Läs mer: