En sen fredagskväll den 8 december nådde företrädare för Europaparlamentet och Europeiska unionens råd en överenskommelse om vad EU:s kommande lag om artificiell intelligens ska innehålla. 

Det är viktigt att känna till att det inte finns en färdig lagtext. Det återstår uppskattningsvis två till tre månaders administrativt och tekniskt arbete för att omvandla överenskommelsen till en sammanhängande lagstiftningsprodukt. I dagsläget finns information om vad överenskommelsen innefattar i allmänt hållna pressmeddelanden från EU-institutioner och rapportering i media.

Syftet med lagen är att säkerställa att grundläggande rättigheter, demokrati, rättsstatsprincipen och ekologisk hållbarhet skyddas mot högrisk-AI, samtidigt som innovation främjas och Europa blir en föregångare på detta område. Genom det kommande regelverket fastställs skyldigheter för AI utifrån de potentiella riskerna och omfattningen av påverkan.

Enligt Europaparlamentet och rådets pressmeddelanden innebär överenskommelsen att det kommer vara förbjudet att använda AI för biometrisk kategorisering utifrån känsliga attribut. Till exempel genom att använda AI för att försöka utläsa om en person kan tillskrivas en viss politisk övertygelse eller att de har en viss sexuell läggning. Det kommer också vara förbjudet att systematiskt kopiera människors profilbilder från nätet för att skapa databaser för ansiktsigenkänning. Det införs också  förbud mot att använda system för att utläsa människors känslotillstånd på jobbet och i skolan.

När det gäller AI som utgör hög risk, som får användas men bara om man följer strikta regler, har de lagstiftande organen enats om att det ska vara obligatoriskt att utföra en konsekvensbedömning av hur systemet påverkar mänskliga rättigheter. Politikerna enades också om att AI som kan användas för att påverka demokratiska val ska klassas som AI med hög risk. Vidare enades de om att individer ska ha rätt att lämna klagomål på AI som utgör hög risk och att de också ska ha rätt att få en förklaring på varför systemet agerade som det gjorde.

När det kommer till AI-system som kan användas för många situationer, det som kallas för “General Purpose AI”, enades politikerna om att dessa ska omfattas av obligatoriska krav på öppenhet. Leverantörer av sådana system måste tillhandahålla dokumentation om systemet samt information om vilket källmaterial systemet har tränats på. Modeller som utgör en förhöjd risk måste uppfylla ytterligare krav som rör cybersäkerhet och de måste också göra riskanalyser.

Överenskommelsen innehåller också regler om hur polisen får använda artificiell intelligens. Enligt överenskommelsen ska brottsbekämpande myndigheter i vissa specifika fall få använda ansiktsigenkänning på kameror på offentlig plats. Det måste godkännas av en domstol och får användas för vissa specifika brott som anses extra allvarliga, för att bekämpa och förhindra terroristbrott och för att hitta personer som utsatts för brott som kidnappning, människohandel och sexuell exploatering.

Läs mer:

Europaparlamentets pressmeddelande: Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI | News | European Parliament (europa.eu)
Europeiska unionens råd: Artificial intelligence act: Council and Parliament strike a deal on the first rules for AI in the world – Consilium (europa.eu)