Författare: Kave Noori

Artificiell intelligens finns överallt och för närvarande förhandlar politikerna på EU-nivå om en ny förordning om användning av artificiell intelligens i situationer som kan utgöra en stor risk för enskilda personers liv. För att hjälpa politikerna släppte EU:s byrå för grundläggande rättigheter (FRA) den 8 december 2022 en rapport om artificiell intelligens och snedvridning (bias) i algoritmer.

I pressmeddelandet uppmanar FRA beslutsfattarna att säkerställa att artificiell intelligens testas för att identifiera och förebygga diskriminering. FRA:s generaldirektör Michael O’Flaherty konstaterar att utvecklare och användare utan ordentliga kontroller riskerar att påverka människors liv negativt. I rapporten beskrivs hur fördomar i algoritmer uppstår och vilka konsekvenser som kan drabba enskilda. 

FRA genomförde två fallstudier för att testa om algoritmerna kan vara snedvridna:

1. Prediktivt polisarbete förstärker snedvridning med tiden: Ifall polisen endast åker till ett område baserat på prognoser som påverkas av skeva data om brottslighet, kommer polisen huvudsakligen att upptäcka brott i det området. Detta skapar en rundgång (feedback loop) där polisen förstärker sina insatser på det området, lagför fler brott i det området och drar slutsatsen att det behövs ännu mer insatser. Fallstudien visar att det riskerar att förstärka eller skapa diskriminerande arbetssätt som oproportionerligt drabbar etniska minoriteter.

2. Automatiserad moderering av kränkande budskap: användningen av automatiserade filter som ska stoppa kränkande innehåll och näthat riskerar att i högre utsträckning begränsa yttrandefriheten för de minoritetsgrupper som systemen ska skydda. Fallstudien visar att verktygen själva kan vara snedvridna i sin bedömning och flagga neutrala fraser som ”Jag är muslim” eller ”Jag är en jude” som kränkande innehåll. Enligt rapporten kan detta leda till de personer från marginaliserade grupper som använder onlinetjänsterna, istället diskrimineras från att få tillgång till tjänsterna på lika villkor.

I pressmeddelandet kan man vidare läsa att FRA uppmanar EU:s institutioner och medlemsländer att grundligt granska algoritmer och minska risken för snedvridning och diskriminering. Ett sådant arbete behöver också inbegripa att testa om algoritmer är snedvridna, ge vägledning om hanteringen av känsliga personuppgifter samt att ta hänsyn till alla diskrimineringsgrunder. Byrån uppmanar också politikerna att verka för ökad språkmångfald och en stärkt evidensbaserad tillsyn. FRA vill genom rapporten uppmärksamma lagstiftare, personer som jobbar med mänskliga rättigheter, teknikföretag och allmänheten om riskerna med snedvriden AI.  

Förhandlingar om AI-förordningen
Den 1 februari 2023 rapporterade EURACTVI att ledande EU-parlamentariker skulle träffas samma dag för att diskutera vad den nya AI-förordningen skulle definiera som hög risk. Enligt artikeln diskuteras en modell som skulle göra det möjligt för AI-utvecklare att själva avgöra om deras AI-system utgör en betydande risk för människors säkerhet eller grundläggande rättigheter. Om en utvecklare drar slutsatsen att deras system inte utgör någon risk måste de ansöka hos en nationell tillsynsmyndighet om ett undantag från de rättsliga kraven. Vid mötet förväntas lagstiftarna också godkänna krav på AI-system med hög risk och åtgärder för att främja innovation.

Därutöver verkar parlamentarikerna vilja inkludera fler tekniker som definieras som högrisktekniker i det som kallas bilaga III. Bilaga III omfattar AI-teknik som utgör hög risk och som därför bara får sjösättas genom att man följer stränga regler. Exempel på sådana användningsområden är användningen av AI för att avgöra vem som antas till en utbildning eller beslut om att anställa eller sparka en arbetstagare. Enligt artikeln ska EU-kommissionen enligt den senaste kompromissen få befogenhet att lägga till eller ändra förteckningen över strikt reglerade användningsområden.

Källa: 
EU:s byrå för grundläggande rättigheters pressmeddelande 8 december 2023 

Här kan du ladda ned rapporten Artikel från EURACTIV 1 februari 2023 om förhandlingarna av AI-förordningen

Artikel från EURACTIV 1 februari 2023 om förhandlingarna av AI-förordningen