Författare: Kave Noori

Forum för Dataskydd har gjort en intervju med Jan Kleijssen, chef för avdelningen för informationssamhället och brottsförebyggande arbete vid Europarådet.  Följ med oss på en spännande resa som ger en inblick i hur europeiska toppdiplomater just nu förhandlar fram den första bindande internationella konventionen om artificiell intelligens (AI).

Europarådet är en viktig internationell organisation. Sverige är medlemsland i Europarådet tillsammans med 45 andra länder. Europarådets mål är att främja och försvara mänskliga rättigheter, demokrati samt rättsstatsprincipen. Europadomstolen för mänskliga rättigheter som skyddar de mänskliga rättigheterna för alla i Europa, är ett organ inom Europarådet. Många tror att Europarådet är en del av Europeiska unionen, men det stämmer inte.  

Europarådet har en lång historia av att reglera teknik
När jag frågar Jan varför Europarådet vill reglera artificiell intelligens (AI) förklarar han att Europarådet har en lång tradition av att hantera teknik och mänskliga rättigheter. Jan upplyser om att Europarådet för 41 år sedan antog konvention 108, världens första internationella fördrag om dataskydd. För 21 år sedan antogs den första konventionen mot cyberbrottslighet, Budapestkonventionen. Jan förklarar att Budapestkonventionen är undertecknad av 66 stater och att konventionen tillämpas i 130 länder i hela världen. Han nämner också att USA har undertecknat och ratificerat konventionen. Den nuvarande kommittén för artificiell intelligens inrättades för att fortsätta arbetet med reglering av teknik och mänskliga rättigheter.

Europarådet har enligt Jan varit engagerat i Internetförvaltning (Internet governance) i många år. Europarådet har avtal med många privata företag, inklusive alla stora amerikanska företag förutom Twitter. De har också avtal med mindre europeiska företag, telekommunikationsföretag och aktörer som IEEE och ISO. Dessa avtal säkerställer att elektronisk utrustning följer specifika standarder.

Europarådets färd mot att reglera artificiell intelligens
För fyra år sedan stod det klart att artificiell intelligens användes allt mer av regeringar och att detta potentiellt skulle kunna leda till konsekvenser för de mänskliga rättigheterna, säger Jan. En så kallad ad hoc-kommitté inrättades. Den kallades för Ad hoc-kommittén för artificiell intelligens (CAHAI). Han förklarar att ad hoc-kommittéer är tillfälliga och endast behandlar specifika frågor. Uppgiften var att undersöka om det behövdes ny lagstiftning för att hantera användningen av artificiell intelligens. Om svaret var ”ja” skulle nästa steg bli att ta reda på vilka typer av frågor som skulle behandlas i ett nytt fördrag.

Jan delar med sig av att CAHAI enhälligt beslutade att det behövs nya regler för artificiell intelligens. Kommittén bestod av företrädare för 47 regeringar samt fem observatörer Förenta staterna, Kanada, Mexiko, Japan och Heliga stolen (Vatikanstaten) samt Israels regering. Kommittén drog slutsatsen att befintliga fördrag (Konvention 108+, Budapestkonventionen och Europakonventionen om mänskliga rättigheter) täcker vissa områden av AI, men att det fortfarande finns stora luckor. Kommittén lade fram en rapport i slutet av 2021 med förslag på vad en AI-konvention bör innehålla.

Europarådets ministerkommitté, som är Europarådets beslutande organ, har ersatt CAHAI med en ny permanent kommitté, Committe on Artificial Intelligence (CAI). Den nya kommittén höll sitt första möte den 4-6 april 2022 och förväntas behandla AI-frågor på en permanent basis.

Den 20 maj 2022 enades ministerkommittén om att Europarådet bör införa ett nytt rättsligt bindande instrument, ett generellt fördrag (i motsats till ett sektorspecifikt fördrag, reds. anm.) om artificiell intelligens.

Jan berättar att Ministerkommittén beslutade att det kommande fördraget om artificiell intelligens bör vara öppet för ratificering av icke-medlemsstater, vara inriktat på allmänna principer och främja innovation. Ministrarna har gett sina ständiga representanter (som träffas en gång i veckan och har full befogenhet att besluta på ministerkommitténs vägnar i alla frågor som ministerkommittén kan besluta om, reds. anm.) i uppdrag att påskynda processen att utarbeta ett fördrag om artificiell intelligens, med hänsyn till andra befintliga och planerade internationella rättsliga regelverk för artificiell intelligens.

Enligt Jan kommer CAI huvudsakligen att förhandla fram den juridiska text som ska utgöra det bindande fördraget om artificiell intelligens. Med ett sådant fördrag kan man säkerställa att regeringarnas användning av artificiell intelligens sker på ett ansvarsfullt sätt och med respekt för medborgarnas mänskliga rättigheter.

Varför Europa är i akut behov av ett fördrag om artificiell intelligens
Jan börjar med att klargöra att just denna konvention inte kommer fokusera på att reglera artificiell intelligens som teknisk lösning. Konventionen ska främst reglera myndigheternas användning av artificiell intelligens. Vidare säger han att det pågår en diskussion om huruvida vissa användningsområden för AI, såsom identifiering av en persons känsloläge eller social poängsättning, bör förbjudas helt och hållet. Vissa medlemsstater vill ha mycket strikta regler för ansiktsigenkänning, medan andra vill förbjuda det helt och hållet. Jan förespråkar att AI-fördragets rättssäkerhetsgarantier bör likna det rättsliga förfarandet med krav på domstolstillstånd för att avlyssna telefoner.

Jan tar själv upp att den stora skandalen i Europa i år är den nederländska skattemyndighetens användning av en algoritm som ledde myndigheten till att fatta väldigt många diskriminerande beslut. Forum för Dataskydd rapporterade i december 2021 att det nederländska Skatteverket krävde tillbaka pengar från människor som algoritmen felaktigt klassat som bidragsfuskare.

Jan förklarar att nederländska Skatteverkets agerande påverkade tusentals människor. Detta resulterade i stora svårigheter, vissa människor begick självmord och 1 600 barn togs ifrån sina familjer. Regeringen föll till slut till följd av skandalen. Allt är fortfarande inte löst. Barnen är fortfarande inte tillbaka och många drabbade driver fortfarande rättsprocesser mot den nederländska regeringen.

Jan hänvisar också till en rapport från Venedigkommissionen. Han förklarar att Venedigkommissionen är ett organ inom Europarådet som består av konstitutionella experter som ger regeringar råd i grundläggande frågor som rör rättsstaten. Det nederländska parlamentet bad kommissionen om ett yttrande om skandalen med barnomsorgsbidraget. I december 2021 antog Venedigkommissionen en rapport om skandalen med barnomsorgsbidrag i Nederländerna. I rapporten konstaterades bristen på AI-styrning i Nederländerna, i rapporten konstaterades dessutom att det som gick fel i Nederländerna lätt kan hända i andra länder.

Jan anser att det bör finnas ett system för AI-styrning (AI-governance), med rättsliga garantier från regeringarna för att säkerställa att användningen av AI-system blir korrekt. Om något går fel bör det finnas mekanismer för att se till att det finns möjligheter till rättslig prövning. Jan anser att enskilda personer bör ha tillgång till rättslig prövning och att det även bör finnas oberoende myndigheter som övervakar AI-systemet. Jan säger att tidsfristen för att färdigställa det nya AI-fördraget är november 2023. Då bör fördraget vara färdigställt och vara redo att ratificeras av de nationella parlamenten. Om medlemsländerna vill göra ändringar har de ett och ett halvt år på sig att ta upp detta i CAI-förhandlingarna. Jan medger att detta är en mycket ambitiös tidsplan.

Fortsättningsvis beskriver Jan att det är bråttom att få till stånd ett AI-fördrag eftersom regeringar redan har infört AI på olika områden. Han tar upp den tidigare nämnda skandalen i Nederländerna och en utbildningsskandal i Storbritannien som exempel på varför åtgärder behövs.

Jan berättar att Storbritannien försökte använda ett AI-system för att beräkna avgångsbetyg från gymnasiet (som skulle användas för att fördela utbildningsplatser på högskola och universitet reds. anm.), men det blev en fullständig katastrof. Systemet var partiskt och tog även hänsyn till efternamn och adresser, vilket orsakade en hel del problem. Sveriges Radio har också rapporterat om händelsen i Storbritannien.

Det föreslagna fördraget kommer enligt Jan inte att täcka alla detaljer, men det kommer att ge regeringarna en ram att följa.

Sammanfattningsvis har Europarådet en lång historia av reglering av artificiell intelligens och arbetar för närvarande med en uppsättning regler för att förhindra negativa konsekvenser som kan uppstå vid storskaliga tillämpningar av artificiell intelligens. I nästa veckas artikel kommer vi att höra vad Europarådet planerar att inkludera i konventionen.

Jan Kleijssen är direktör för informationssamhället och åtgärder mot brottslighet vid Europarådet och är en stark förespråkare för ett Europa utan splittring. Han har över 39 års erfarenhet av Europarådet inom olika sektorer, bland annat inom rättsväsendet, parlamentet och mellanstatliga relationer. Jan Kleijssens direktorat har 200 anställda och ansvarar för ett brett spektrum av verksamheter, bland annat yttrandefrihet, dataskydd, artificiell intelligens, förvaltning av Internet, cyberbrottslighet, terrorism, straffrätt, kriminalvård, fängelseförvaltning, bekämpning av korruption och penningtvätt.

Jan har en masterexamen i internationell rätt och internationella frågor och fullgjorde militärtjänstgöring som officer i den kungliga nederländska flottan. Jan talar flytande nederländska, engelska, franska, tyska och italienska.

Läs mer:

Hemsida för CAI (Committe on Aritifical Intelligence)

Hemsida för CAHAI (första kommittén om AI)

Venedigkommisionens rapport

Om Ministerkommittén

Kommittén som utgör ministrarnas ständiga representanter 

CAHAIs rekommendationer om vad en AI-konvention skulle kunna innehålla

Nyhetsartiklar om Betygsfiaskot i Storbritannien

Storbritanniens regering tvingas backa om skolbetyg

The UK exam debacle reminds us that algorithms can´t fix broken systems

Who won and who lost: when A-levels meet the algorithm

Why did the A-level algorithm say no?

UK ditches exam results generated by biased algorithm after student protests

Exams fiasco: Ofqual chief claims Gavin Williamson ignored its advice