Europeiska unionen har i princip antagit AI-förordningen. EU-parlamentet godkände förordningen i mars, och i april antogs en reviderad version med redaktionella ändringar. Nu återstår endast några formella steg.

En koalition av organisationer från civilsamhället där organisationer som Amnesty och digitala rättighetsorganisationer ingår är dock kritiska mot att EU:s AI-förordning inte fullt ut skyddar mänskliga rättigheter. De välkomnar att lagen kräver att EU-kommissionen måste etablera en databas som är tillgänglig för allmänheten där AI-system som är klassificerade som högrisk måste finnas med. Organisationerna är samtidigt kritiska mot undantagen för den privata sektorn och exempelvis polisen. 

Koalitionen är också oroad över att tillsynsmyndigheternas befogenheter om att tvinga företag att efterleva lagen är för svaga. De ser det som en brist att enskilda individer, vid sidan av tillsynsmyndigheternas kontroll, inte kan väcka ärenden i domstol själva eller genom att representeras av en ideell organisation.

En annan oro som framförs av organisationerna gäller den potentiella dubbla standarden som lagen skapar beträffande skyddet av mänskliga rättigheter för personer inom och utanför EU. Eftersom lagen inte hindrar europeiska företag från att exportera AI-system som är förbjudna att användas inom unionen, finns det en risk att sådana system kan användas för att kränka mänskliga rättigheter utanför EU.

Trots att lagen delvis förbjuder prediktivt polisarbete (där polisen använder AI för att förutsäga framtida brottslig aktivitet) och ansiktsigenkänning ser organisationerna att det finns kryphål som kan öppna dörren för diskriminerande övervakning, särskilt mot marginaliserade grupper. AI:s inverkan på miljön beaktas inte heller fullt ut menar organisationerna, även om operatörer av storskaliga AI-system är skyldiga att dokumentera sin energiförbrukning.

Läs mer här:

• European Digital Rights (EDRi), ”EU’s AI Act fails to set gold standard for human rights”, 3 April 2024
  
• Den uppdaterade texten till AI-förordningen som antagits av EU-parlamentet
  
• Forum för Dataskydd strävar alltid efter att rapportera nyheter på dataskyddsområdet som är oberoende och fristående. Därför vill vi i just detta sammanhang vara transparenta med att skribenten, är medförfattare till det blogginlägg som denna nyhet är baserad på.